レポート

生物学AIモデルの分析を拡充する

著者：David Atanasov、Jean-Stanislas Denain（Epoch AI）

原題：Expanding our analysis of biological AI models

本レポートでは、生物学分野のAIモデルについて、データベースを拡充して示す。Sentinel Bio の委託によるもので、2024年の共同研究を土台にしている。この共同研究では、Sentinel Bio の資金提供を受けて、Epoch AI が生物学分野のAIモデルの情報を収集・整理した。今回のレポートの目的は、生物学に関わるAIモデルの新しいカテゴリーまで対象を広げ、2024年9月以降に公開されたモデルを取り込むことである。

データベースの構築にあたっては、主要な学術データベースとプレプリントサーバーで、生物学分野のAIモデルを発表した論文を検索した。次に言語モデルを使って候補を絞り込み、残った論文から構造化したメタデータを抽出した。特に重要なモデルについては、さらに人手で確認した。手法の詳細は付録に記す。

主な結果

最終的なデータベースには1,196件のモデルが収録されている。このうち1,124件はAIの支援だけで注釈を付け、72件は人手で個別に注釈を付けた。また、安全対策が使われていると記録した項目は、すべて人手で確認した。分析の主な結果は次のとおりである。

公開前のリスクアセスメントやリスク関連の評価はまれである。リスクアセスメントの記録があるモデルは2.5%にすぎず、リスク関連の評価を実施したと報告しているモデルは2.3%である。こうした取り組みは注目すべきモデルのほうが多いが、これは主にフロンティアLLMによるもので、データベース中でリスクアセスメントを報告しているモデルの60%、評価を報告しているモデルの68%をフロンティアLLMが占める。

安全対策はまれで、何らかの安全対策の記録があるモデルは全体の3.2%にすぎない。注目すべきモデルでは35%に安全対策があるが、これもフロンティアLLMによるものである。フロンティアLLMでは95%に安全対策があるのに対し、LLM以外の生物学AIモデルではわずか1.4%である。安全対策のあるモデル全体の半分超をフロンティアLLMが占める。

安全対策がある場合でも、その種類はフロンティアLLMとそれ以外のモデルで異なる。フロンティアLLMは推論実行時のフィルタリングに大きく頼っている。一方、LLM以外の生物学AIモデルでは、安全対策があっても推論実行時のフィルタリングを使うことはまれで、事後学習による安全手法や学習データのフィルタリングのほうがよく使われている。

大半のモデルはコードとデータを共有しているが、重みの公開はそれより少ない。推論実行用のコードを公開しているモデルは約58%、学習データを共有しているモデルは46%である。重みが公開されているモデルは約23%である。

モデル数が最も多いカテゴリーは、タンパク質工学と低分子設計である。この2つのカテゴリーで、データベースのモデルの半数近くを占める。これに対応して、最も広く使われている学習データセットは、タンパク質関連のモデルでは Protein Data Bank と UniProt、低分子設計のモデルでは ChEMBL である。

多くのモデルは、少数の基盤モデルを土台にしている。データベースのモデルの約5分の1（1,196件中253件）は、ゼロから学習したものではなく、既存のモデルをファインチューニングしたものである。土台として群を抜いて多いのは、タンパク質言語モデルの ESM-2 系列である。

データの入手

2024年9月以降に公開された1,196件のモデルを収録したデータベースは、こちらのリンクから閲覧できる。ただし、安全対策に関する情報は伏せてある。安全対策のデータを必要とする正当な理由のある研究者などは、data@epoch.ai に連絡すればアクセスを申請できる。

手法の概要

対象としたのは、2024年9月以降に公開された生物学分野のAIモデル1で、次の9つのカテゴリーにわたる。タンパク質工学、低分子設計、ウイルスベクター設計、遺伝子改変、免疫系モデリングとワクチン設計、病原体の性質予測、汎用の生物学AI、生物学研究エージェント、生物学の文献調査エージェントである。また、フロンティアの大規模言語モデルも「汎用」カテゴリーの一部として含めた。

作業は大きく4段階に分かれる。第1に、SemanticScholar、OpenAlex、ChemRxiv で、キーワードと概念に基づくクエリを使って候補論文を検索し、約34,000件の結果を得た。第2に、AIの支援によるスクリーニングで、これを2段階に絞り込んだ。まずタイトルと要旨で、次に論文の全文で絞り込んだ。第3に、残った論文から、プロンプトを与えた言語モデルを使って構造化したメタデータ（モデル名、カテゴリー、パラメータ数、学習データ、安全対策、利用可能性などの項目）を抽出した。最後に、被引用数の多さ、一流学術誌への掲載、著名な研究グループによる開発といった基準で「注目」に指定した72件のモデルについて、人手で確認して注釈を付けた。

検索語、抽出用プロンプト、各段階の詳しい説明を含む手法の全体は、付録に記す。

分析

1. データセットの概要

データベースには生物学分野のAIモデルが1,196件収録されており、そのうち72件は、権威ある学術誌への掲載、著名な研究グループによる開発、被引用数の多さといった基準で「注目」に指定されている。この節では、これらのモデルがどこから生まれ、誰が開発し、何をするものなのか、全体像を概観する。

カテゴリー別の分布

生物学分野のAIモデルがカテゴリー間でどう分布しているかを見ると、この分野がいま何を重視しているかが分かる。最も大きい2つのカテゴリーは、タンパク質工学と低分子設計である。タンパク質工学は、たとえば標的の結合部位が与えられたとき、その部位に結合するタンパク質へと折りたたまれるアミノ酸配列を生成する。低分子設計は、たとえば標的タンパク質が与えられたとき、それに高い親和性で結合する低分子を生成する。この2つでデータベースのおよそ半分を占める。これに「遺伝子改変」（モデルの13%）を加えたものが、新しいタンパク質、薬剤、遺伝子配列を作り出すツール、つまり中核となる「設計」能力である。

タンパク質工学と低分子設計で、モデルの半数超を占めるタンパク質工学低分子設計遺伝子改変汎用病原体の性質予測免疫系・ワクチン設計研究エージェント文献調査エージェントウイルスベクター設計050100150200250300350モデル数363253159155105615063出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

病原体の性質予測（例：ウイルスの配列が与えられたとき、その伝播力や薬剤耐性の強さを予測する）は規模が小さいが、軍民両用（デュアルユース）の可能性があるため、バイオセキュリティの観点からは特に重要である。汎用モデルは、フロンティアLLMと、ESM3 や Evo 2 のような生物学専用の基盤モデルの両方を含む混成のカテゴリーで、データベースの約13%を占める。

地域別の分布

生物学AIの開発は、地域的に大きく偏っている。米国と中国を合わせるとモデルの過半数を占めており、両国がAI研究と生命科学の両方で支配的な地位にあることを反映している。第2集団の国々（英国、カナダ、ドイツ、スイス）も相応に貢献しているが、規模ははるかに小さい。残りのモデルは多数の国に薄く分散しており、各国が生み出しているのはごく少数にすぎない。

モデルの約29%（組織データのある865件中249件）は、複数の国の組織による共同研究である。この数字は国際共同研究の量を過小評価している可能性が高い。記録しているのは組織の本部所在国だが、多くの組織は複数の国に研究者を抱えているからである。

生物学AIモデルの大半は米国と中国が生み出している米国中国英国カナダドイツスイス0100200300400モデル数41230359504737出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

組織の種類別の分布

公開の記録がある生物学分野のAIモデルの大多数は大学が生み出しており、研究機関と企業がそれに続く。これは、資金力のある産業界の研究所が主導するフロンティアの言語モデル開発とは対照的である。このパターンから、生物学AIは依然として主に学術的な分野であり、公開されている成果の多くは営利企業ではなく研究グループが推進していることがうかがえる。ただし、バイオテクノロジー企業や製薬企業が社内で開発している生物学AIモデルは、ほとんど見えてこない。

生物学AIモデルの大半は大学が生み出している02004006008001000大学研究機関企業モデル数 882271192出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

なお、組織のデータは不完全である。モデルと組織の結び付けは関連論文を介して行っているため、貢献したすべての機関を捉えられるとは限らない。また、地域と組織の種類の情報が得られるのはモデルの約72%だけである。これらの数字は、正確な件数ではなく、大まかな傾向を示すものとして扱うべきである。

注目すべきモデル

データベースでは、権威ある学術誌への掲載、著名な研究グループによる開発、被引用数の多さといった複数の基準に基づき、72件のモデルを「注目」に指定している。この部分集合を使えば、この分野で特に影響力が大きく目立つモデルに見られるパターンを調べられる。

注目すべきモデルの部分集合には、データセット全体とは異なる興味深い点が見られる。注目すべきモデルでは企業の存在感がはるかに大きく、大学が優勢なデータセット全体とはパターンが逆転している。このことから、生物学分野のAIモデルの大半は大学の研究室が生み出しているものの、特に影響力が大きく目立つモデルは産業界から生まれる傾向があることがうかがえる。米国も、全モデルに占める割合に比べて、注目すべきモデルではいっそう抜きん出ている。

注目すべきモデルのカテゴリー分布では「汎用」モデルが大半を占める。このカテゴリーには、フロンティアLLMと、ESM3 や Evo 2 のような生物学専用の基盤モデルの両方が含まれる。

2. リスク管理の取り組み

生物学分野のAIモデルの中には、病原体、毒素、その他の有害な生物学的因子の設計や改変に悪用されうるものがある。この分野がこうしたリスクにどう対処しているかを把握することは、バイオセキュリティ政策の議論の中心にある。

私たちは、公開前のリスクアセスメントとリスク関連の評価を記録している。公開前のリスクアセスメントとは、モデルの公開を決める前に行う正式な手続きのことで、脅威モデリング、文書化されたリスク分析、バイオセキュリティの専門家への相談などがある。公開前のリスク関連の評価とは、モデルがリスクに関わるタスクを実際に遂行できるかを調べる試験のことで、たとえば病原性の配列を生成する能力をベンチマークで測ったり、危険な能力を探るレッドチーミングを行ったりする。

また、バイオセキュリティ上のリスクに対処するための安全対策を講じているモデルも記録している。安全対策とは、潜在的な害を減らすためにモデルの開発者が講じる措置である。生物学AIの文脈で関係する安全対策には、有害な出力のフィルタリング、モデルを利用できる人の制限、危険な配列（ヒトに感染するウイルスの配列など）を除くための学習データの選別がある。

安全対策の有効性はここでは評価しておらず、この分析の範囲外である。安全対策の中には簡単に取り除けるものもある。たとえば、事前学習からデータを意図的に除外していても、モデルの重みが共有されていれば、タスクに特化したデータでモデルをファインチューニングしてその能力を取り戻せる。このため、安全対策があるというだけで、そのモデルが害をなすことに使えない証拠だと解釈すべきではない。さまざまな種類のモデルに合わせて、より堅牢な安全対策を幅広く開発・適用する取り組みが進んでいるが、オープンウェイトのモデルをどこまで安全にできるかには技術的な限界があるかもしれない。

リスクアセスメントとリスク関連の評価

公開前のリスクアセスメントやリスク関連の評価はまれである。リスクアセスメントの記録があるモデルは2.5%にすぎず、リスク関連の評価を実施したと報告しているモデルは2.3%、少なくともどちらか一方を実施したと報告しているモデルは3%である。こうした取り組みは注目すべきモデルのほうが多いが、これは主にフロンティアLLMによるもので、データベース中でリスクアセスメントを報告しているモデルの60%、評価を報告しているモデルの68%をフロンティアLLMが占める。

生物学分野のAIモデルが公開前のリスクアセスメントやリスク関連の評価を行うことはまれである公開前のリスク関連の評価公開前のリスクアセスメント020406080100生物学分野の全AIモデル（n=1196）生物学分野の注目すべきAIモデル（フロンティアLLMを除く、n=50）生物学分野の注目すべきAIモデル（フロンティアLLMを含む、n=72）フロンティアLLM（n=22）モデルの割合（%） 2.3%6.0%30.6%86.4%2.5%18.0%37.5%81.8%出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

フロンティアLLMでは、公開前のリスク管理はいまや標準的な取り組みになっている。GPT-5.2、Claude Opus 4.6、Gemini 3.0 Pro などのモデルはいずれも、公開前に、危険な生物学的能力についてリスクアセスメントと評価の両方を行ったと報告している。フロンティアLLM以外では、少数の生物学専用モデルが同様の取り組みを取り入れており、Evo 2（Arc Institute のゲノム基盤モデル）や Google の AI Co-Scientist がその例である。

安全対策

安全対策はまれで、何らかの安全対策の記録があるモデルは全体の3.2%にすぎない。注目すべきモデルでは35%に安全対策があるが、これもフロンティアLLMによるもので、フロンティアLLMでは95%に安全対策があるのに対し、その他のモデルではわずか1.4%である。安全対策のあるモデル全体の半分超をフロンティアLLMが占める。

生物学分野のAIモデルに安全対策があることはまれである020406080100生物学分野の全AIモデル（n=1196）生物学分野の注目すべきAIモデル（フロンティアLLMを除く、n=50）生物学分野の注目すべきAIモデル（フロンティアLLMを含む、n=72）フロンティアLLM（n=22）モデルの割合（%） 3.2%8.0%34.7%95.5%出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

安全対策がある場合でも、その種類はフロンティアLLMと生物学専用モデルで異なる。フロンティアLLMは、推論実行時のフィルタリング（安全対策のあるフロンティアLLMの95%が採用）やアクセス制限（62%）に大きく頼っている。一方、安全対策のある生物学専用モデルが推論実行時のフィルタリングを使うことはまれである（6%）。生物学専用モデルでは、事後学習による安全手法（65%）や、危険な配列を除くための学習データのフィルタリング（35%）のほうがよく使われている。たとえば Evo 2 と ESM3 のオープンウェイト版は、学習データをフィルタリングして、特定のウイルスやその他の病原体に関連する配列を除いている。

フロンティアLLMは生物学専用モデルよりも推論実行時のフィルタリングに頼っているフロンティアLLM（n=21）生物学専用モデル（n=17）05101520アクセス制限推論実行時のフィルタリング事後学習による安全手法学習データのフィルタリングモデル数 132014211116出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

3. 利用可能性

利用可能性とは、モデルの開発者が成果をどれだけ公開しているかを指す。記録している側面は複数あり、これらは互いに排他的ではない（たとえば、重みは公開していてもデータは公開していないモデルもあれば、その逆もある）。

  • 推論実行コードの公開：モデルを動かすのに必要なコードが一般に公開されている。
  • 学習コードの公開：モデルの学習に使ったコードが共有されている。
  • 重みの公開：モデルの学習済みパラメータが公開されており、他者が学習し直さずにモデルを使える。
  • データの公開：学習データセットが入手できる。
  • APIアクセス：プログラミング用のインターフェースからモデルを呼び出せる。通常は何らかのアクセス制御がある。
  • ウェブインターフェース：ブラウザ上のツールからモデルを使える。
  • 未公開：モデルは論文で説明されているが、一般には入手できない。
生物学AIモデルの大半はコードかデータを共有している推論実行コードの公開データの公開学習コードの公開重みの公開ウェブインターフェースAPIアクセス010203040506070モデルの割合57.9%46.0%28.3%23.0%12.2%3.8%出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

大半のモデルはアクセスを制限していない。推論実行用のコードを公開しているモデルは約58%、学習データを共有しているモデルは46%である。重みの公開（23%）や学習コードの公開（28%）はそれより少ないものの、それでも相当な割合である。APIアクセスでしか使えないモデルはごく一部（3.8%）にとどまる。

4. 土台となるモデル

生物学分野のAIモデルの多くは、ゼロから学習したものではなく、既存の基盤モデルを「ファインチューニング」したものである。ファインチューニングとは、事前学習済みのモデルを、より小さな専門的データセットを使って特定のタスクに適応させることである。土台となるモデルがすでに一般的なパターン（タンパク質の構造や配列間の関係など）を学習しており、それが下流のタスクにも生かせるため、この方法は効率がよい。

生物学では、ファインチューニングの対象としてよくあるタスクに、タンパク質の機能予測、結合部位の特定、生物種や機能による配列の分類、変異の影響の予測などがある。土台となるモデルは、多くの場合、生物の配列（タンパク質やDNAの配列など）で学習した大規模言語モデルで、生物の構造と機能について豊かな表現を獲得している。

ファインチューニングの土台として最も多いのは ESM-2 であるESM-2ProtBERTAlphaFold2ProtGPT2ESM-1bAnkhUni-MolProteinMPNNMistral-7B-v0.1ESMFold0102030405060モデル数581577655554出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

データベースのうち、別のモデルをファインチューニングした253件のモデルでは、土台として群を抜いて多いのが ESM-2 で、58件のモデルがこれを土台にしている（この件数は、サイズの異なる ESM-2 の各版を合算したもの）。ESM-2 は、数百万のタンパク質配列で学習したタンパク質言語モデルである。

ほかによく使われる土台モデルには、ProtBERT（15件）、AlphaFold2（7件）、ProtGPT2（7件）がある。こうしたタンパク質中心のモデルが目立つのは、この分野がタンパク質の工学と設計を重視していることの表れである。

5. 学習データ、パラメータ数、計算量

学習データセット

学習データセットの情報がある1,009件のモデルのうち、最も広く使われているのは Protein Data Bank（PDB）で、159件のモデルで使われている。2番目は UniProt（93件）で、低分子や薬剤の設計に最も役立つ ChEMBL（69件）がそれに続く。その次の GISAID（38件）はインフルエンザウイルスとコロナウイルスの配列を収録しており、主に病原体を対象としたモデルで使われている。

最も広く使われている学習データセットは Protein Data Bank であるPDB (Protein Data Bank)UniProtChemBLUniRef50GISAIDPubChemBindingDBProteinGymNCBIDBAASPSAbDabSwissProtGenBankZINCDrugBank020406080100120140160モデル数1599369463836353226222219191919出典：Epoch AI（CC BY 4.0）・作図：AGI Hub

報告されている学習データの利用の大部分は、タンパク質と低分子のデータセットが占める。これは、この2つのカテゴリーのモデル数が最も多いことと整合している。ゲノムのデータベースは、全体として目立たない。

パラメータ数、データ量、計算量

本レポートは、学習計算量（training compute）がしばしば中心的な関心事となる、フロンティアモデルを扱う通常の Epoch AI の成果物とは異なる。生物学AIについては、計算量をそれほど重視していない。モデルのアーキテクチャが多種多様に分かれているため、よく理解された少数のアーキテクチャが分野の大半を占める言語モデルに比べて、計算量の推定がはるかに難しい。しかしそれ以上に、計算資源は生物学AIの能力の主なボトルネックではないように見える（悪用リスクに関わる能力を考える場合には、なおさら関係が薄いかもしれない）。進歩を制約しているのは、単純な計算資源よりも、データの入手しやすさと質であるように見える。とはいえ、いくつか注目に値する点がある。

パラメータ数：生物学AIモデルの規模は何桁にもわたる。データベースのモデルの大半は、現代の基準では比較的小さく、数千万から数十億パラメータの範囲にある。最大級の生物学専用モデル、たとえば Evo 2（400億パラメータ）や xTrimo の1,000億パラメータのモデルは、中規模の言語モデルに迫る規模だが、GPT-5 や Claude のようなフロンティアのシステムよりはまだ小さい。

計算量：学習計算量の推定値が得られるのは、ごく一部のモデルだけである。報告されている値は1017〜1024 FLOPの範囲にあり、おおよそGPU 1台で1日分から、フロンティアの言語モデルの学習のごく一部（1024 FLOPの学習なら数百万ドル台の後半）に相当する。生物学専用の最大級の学習でも、フロンティアAIの学習より2桁小さい。

付録

付録A：手法の詳細

対象範囲と収録基準

対象としたのは、2024年9月前後またはそれ以降に公開された生物学分野のAIモデルで、RAND Europe と Centre for Long-Term Resilience の Global Risk Index for AI-enabled Biological Tools をもとにした次の9つのカテゴリーにわたる。

  1. タンパク質工学ツール（アミノ酸配列とタンパク質構造の設計・予測・解析）
  2. 低分子設計ツール（低分子とペプチドの最適化とデノボ設計）
  3. ウイルスベクター設計ツール
  4. 遺伝子改変・ゲノム設計ツール
  5. 免疫系モデリング・ワクチン設計ツール
  6. 病原体の性質予測・宿主と病原体の相互作用のツール
  7. 大量の生物学データで学習した汎用AIモデル、特に生物学AIの基盤モデル
  8. 上記のツールを利用できる生物学研究エージェント
  9. これらの領域でのアイデア出しや計画立案（文献レビューなど）を行う生物学の文献調査エージェント

また、カテゴリー7や9に関係する場合には、フロンティアの大規模言語モデルも含めた。

検索段階の目的は、対象カテゴリーのいずれかに当たる生物学関連のAIモデルの学習を記述している可能性のある候補論文を、幅広く集めることであった。注目すべきモデルを漏れなく網羅すること（目標1）と、目立たないものの関連性のあるモデルの長い裾野を幅広く捉えること（目標2）を目指した。目標1のために、把握している注目すべきモデルを人手で追加し、目標2には以下に述べる自動検索で対処した。

検索したのは次の3つの情報源である。

  • SemanticScholar。SemanticScholar の検索APIを使い、カテゴリーごとに1組、計8組のキーワードクエリで検索した。最初のキーワードの組は RAND Europe と Centre for Long-Term Resilience の協力者から提供を受け、SemanticScholar API の構文で動くように、また再現率を高めるように手直しした。検索語の全体は付録Cに載せる。
  • OpenAlex。SemanticScholar の結果を補うため、OpenAlex でキーワードに基づく検索と概念に基づく検索の両方を行い、SemanticScholar では得られなかった論文を新たに見つけた。
  • ChemRxiv。化学と関連分野のプレプリントを捉えるため、ChemRxiv も検索した。

3つの情報源の結果を統合し、重複を除いた。APIが返したメタデータ（タイトル、要旨、著者、公開日など）はすべて保存し、後の段階で使った。

絞り込み

検索の結果、約34,000件の候補論文が得られた。絞り込みの段階では、対象カテゴリーのいずれかに当たるモデルの学習を記述していない論文を除くことを目指した。

要旨による絞り込み。最初の選別には GPT-5-mini を使い、各論文のタイトルと要旨をプロンプトとして与えた。モデルには、含めるべき論文の種類を説明し、除外すべき論文の具体例を示した。モデルは各論文について「Yes」「No」「Maybe」のいずれかで答えた。「Maybe」の論文も次の段階に含めた。この段階では、関連する論文を見落とすコストのほうが、追加で全文を選別するコストより大きかったからである。

全文による絞り込み。要旨の選別を通過した論文は、次にPDF形式の全文を使って絞り込んだ。モデルには要旨の段階と同様の目的をプロンプトで与えたが、論文全体を読める状態にした。

論文全文の取得

全文による絞り込みと情報抽出のためにPDFが必要だったのは、要旨の選別を通過した論文だけである。入手可能な場合は arXiv と bioRxiv の S3 バケットから論文を自動で取得し、これで全体の大部分をまかなえた。自動で取得できなかった643件のうち、478件（個別に購入しなくても入手できたもの）は人手でダウンロードした。残りは個別の購入が必要だったため、分析から除外した。

情報抽出

全文による絞り込みを通過した各論文について、Gemini 3.0 Flash（思考設定：high）を使ってPDFから構造化したメタデータを抽出した。モデルには、論文に記述されている個々のAIモデルを特定し、モデル名、カテゴリー、パラメータ数、学習データ、安全対策、利用可能性、ファインチューニングの関係などの項目を抽出するようプロンプトで指示した。抽出用プロンプトの全文は付録Dに載せる。

一般的なメタデータ、安全対策の情報、カテゴリーのタグは、それぞれ別々に抽出した。最終的なプロンプトを選ぶまでに、何度も実行してプロンプトを改良した。

抽出した情報は、Systems（AIモデル）と Papers（出典の論文）の2つの表に整理した。これらの表の項目構成の全体は付録Bに記す。

項目の選び方には2つの狙いがあった。1つは、これらのモデルの安全対策と安全に関わる特徴を把握すること。もう1つは、モデル間のさまざまな関係（ファインチューニング）と、データベースの利用者に役立ちそうなその他のメタデータ（公開日、論文、著者、学習データセット）を捉えることである。

注目の基準と人手による注釈

モデルによっては、ほかより丁寧に記録する価値がある。次の基準のいずれかを満たすモデルを「注目」に指定した。

  1. 生物学、AI、または関連分野で注目に値するグループや人物が作ったもの
  2. スター数が1,000を超える GitHub リポジトリに関連するもの（普及度と世間の関心の代理指標）
  3. 100回超引用された論文に関連するもの
  4. Nature または Science に掲載されたもの
  5. 上記で捉えきれない理由により、Epoch AI の判断で注目とみなしたもの

注目すべきモデルには、個別に人手で注釈を付けた。研究者が論文を読み、抽出したすべての項目を確認または修正した。

付録B：データベースの項目

データベースは2つの表からなる。それぞれの列を以下に示す。

Systems 表

列名列の説明
Nameモデルの名前
Primary category最もよく当てはまる1つのカテゴリー
All categoriesそのモデルが無理なく当てはまりうるすべてのカテゴリー。この項目では「Research agent」と「Desk research agent」の2つのカテゴリーをまとめている
Is frontier LLMGPT-5 や Claude Sonnet 4 などのようなフロンティアLLMかどうか
Accessibilityモデルの入手方法を表すタグ（例：重みの公開、APIアクセス）
Accessibility notesモデルの利用可能性についてのメモ
Release date公開日。通常は論文の発表日で近似している
Paper対応する Papers の項目へのリンク
Notability criteria注目すべきモデルについて、どの基準を満たしたか
Training datasets対応する Datasets の項目へのリンク
Training datasets notesモデルの学習データの詳しい説明
Tokens trained on学習に使ったトークン数（推定値の場合もある）
Is a finetune ofファインチューニングしたモデルの場合、土台となったモデルへのリンク
Is the base model for「Is a finetune of」の逆方向の関係
Implementsエージェントの場合、推論実行を通じて使うモデルへのリンク
Implemented by「Implements」の逆方向の関係
Training compute (FLOPs)推定学習計算量（浮動小数点演算回数）
Training compute notes計算量の推定についてのメモ
Parametersモデルのパラメータ数
Parameters notesパラメータ数についてのメモ
Attention received注釈付けの際にこのモデルが受けた人手による確認の度合い

Papers 表

列名列の説明
Title論文のタイトル
Models抽出した Systems の項目へのリンク
Link論文のURL
Authors論文の著者
Abstract論文の要旨
Published発表日
Citations2026年2月2日時点の被引用数
Organizations所属組織
Attention received注釈付けの際に受けた人手による確認の度合い
Added by論文を人手で追加したか、自動の処理で見つけたか

付録C：検索語

SemanticScholar の検索語

"Protein engineering": "(\"protein design\" | \"protein folding\" | \"protein inverse folding\" | \"protein diffusion model\" | \"de novo design\") (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\" | \"computational model\" | \"automat\")",
   "Small biomolecule design": "(\"biomolecule design\" | \"ligand structure prediction\" | \"molecular structure prediction\" | \"de novo design\") (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\" | \"computational model\" | \"automat\")",
   "Viral vector design": "(\"viral vector\" | \"capsid design\" | \"capsid engineering\" | \"vector engineering\" | \"viral delivery system\" | \"viral vector optimization\" | \"AAV\" | \"adeno-associated virus\") (\"machine learning\" | \"artificial intelligence\" | \"computational model\" | \"AI\" | \"deep learning\" | \"neural network\")",
   "Genome modification and genome design": "(\"genome assembly\" | \"genomic assembly\" | \"sequence assembly\" | \"DNA assembly\" | \"genome reconstruction\" | \"sequence reconstruction\" | \"contiguous assembly\" | \"contig assembly\" | \"genetic feature identification\" | \"gene annotation\" | \"motif discovery\" | \"regulatory element identification\" | \"regulatory factor binding identification\" | \"gene regulatory element mapping\" | \"cis-regulatory element analysis\" | \"codon sequence optimisation\" | \"codon sequence optimization\" | \"codon optimisation\" | \"codon optimization\" | \"codon bias adjustment\" | \"promoter sequence optimisation\" | \"promoter sequence optimization\" | \"genome design\" | \"genome synthesis\") (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\" | \"computational model\" | \"automat\")",
   "Pathogen property prediction": "((\"viral\" | \"virus\" | \"bacteria\" | \"bacterial\" | \"pathogen\") (\"prediction\" | \"predict\" | \"detection\" | \"detect\") (\"zoonotic spillover\" | \"host tropism\" | \"environmental stability\" | \"transmissibility\" | \"virulence prediction\") | (\"toxicity prediction\" | \"toxic molecule prediction\" | \"toxic peptide prediction\")) (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\" | \"computational model\" | \"automat\")",
   "Host-pathogen interaction prediction": "((\"virus\" | \"bacteria\" | \"pathogen\" | \"host\") (\"viral host entry\" | \"virus host entry\" | \"immune escape\" | \"antibody escape prediction\" | \"antibody escape predict\") | (\"protein\u2013protein interaction prediction\" | \"protein-protein interaction prediction\" | \"protein\u2013protein interaction predict\" | \"protein-protein interaction predict\") (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\" | \"computational model\" | \"automat\")",
   "Immunological system modeling and vaccine design": "(\"immune system model\" | \"immunological system model\" | \"immune response predict\" | \"immune response detect\" | \"immune response prediction\" | \"immune response detection\" | \"t-cell receptor epitope predict\" | \"t-cell epitope detect\" | \"t-cell epitope prediction\" | \"t-cell epitope detection\" | \"clinical outcome predict\" | \"clinical outcome detect\" | \"clinical outcome prediction\" | \"clinical outcome detection\" | \"immune model\" | \"immunological model\" | \"immunogenicity prediction\" | \"immunogenicity predict\" | \"immunogenicity detection\" | \"immunogenicity detect\") (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\" | \"computational model\" | \"automat\")|(\"vaccine design\" | \"vaccine develop\" | \"vaccine engineer\" | \"vaccine subunit design\" | \"vaccine subunit prediction\" | \"vaccine subunit predict\" | \"antigen prediction\" | \"antigen predict\") (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\" | \"computational model\" | \"automat\")",
   "Experimental design, simulation and automation": "((\"experimental simulation\" | \"experiment simulation\" | \"in silico experiment\") (\"biotechnology\" | \"bioinformatics\" | \"synthetic biology\" | \"computational biology\" | \"genomics\" | \"proteomics\" | \"biological tools\" | \"bio-engineering\" | \"biomedical engineering\" | \"bioprocessing\" | \"biomanufacturing\") | (\"experiment design\" | \"experimental design\" | \"experiment method\") (\"bio\" | \"clinical\" | \"medicine\" | \"pharma\")) (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\")|(\"automated\" | \"automate\" | \"automatic\" | \"autonomous\") (\"experiment\" | \"cloud lab\") (\"bio\") (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"neural network\" | \"computational model\")",
   "Literature analysis and research agents": "((\"literature review\" | \"systematic review\" | \"literature synthesis\" | \"literature mining\") (\"automated\" | \"automate\" | \"automatic\" | \"AI-assisted\" | \"AI-powered\") (\"biological\" | \"biomedical\" | \"genomic\" | \"molecular biology\" | \"biotechnology\") | (\"research agent\" | \"AI agent\" | \"autonomous agent\") (\"literature\" | \"scientific literature\") (\"biological\" | \"biomedical\" | \"life science\")) (\"machine learning\" | \"artificial intelligence\" | \"deep learning\" | \"large language model\" | \"LLM\")"
}

付録D：プロンプト

メタデータの抽出

You are provided with a research paper (attached PDF) that has ALREADY passed the relevance gate.

Your task: extract metadata for ALL in-scope biology AI models described in the paper.

=========================================================================
EXTRACTION SCOPE
=========================================================================

Extract data for EVERY distinct AI model or agent that the paper introduces, releases, or substantially fine-tunes within this scope:

1. Protein engineering tools
2. Small biomolecule design tools
3. Viral vector design tools
4. Genetic modification and genome design tools
5. Immune system modelling and vaccine design tools
6. Pathogen property prediction and host-pathogen interaction tools
7. General-purpose biology AI
8. Biology research agents / desk research agents

If the paper describes multiple model variants (e.g., "ModelX-Small", "ModelX-Large"), extract each as a separate entry.

=========================================================================
CATEGORY DEFINITIONS
=========================================================================

Each model must be assigned to EXACTLY ONE category (the best fit).

Below are detailed definitions. Use these to guide your classification:

---

**1. "Protein engineering tools"**

Scope: AI systems for the design, optimization, prediction, or analysis of amino acid sequences and protein structures, when the purpose is to enable or drive sequence/structure engineering.

Includes:
- De novo protein design (e.g., generative models for novel proteins)
- Protein structure prediction models (e.g., AlphaFold-like models)
- Protein function prediction for engineering purposes
- Antibody design and optimization
- Enzyme engineering and optimization
- Protein-protein interaction prediction for design
- Protein fitness landscape modeling
- Directed evolution guidance models

Does NOT include: Models that only interpret experimental protein data (e.g., mass spec analysis) without a design component.

---

**2. "Small biomolecule design tools"**

Scope: AI systems for the optimization or de novo design of small molecules and peptides, especially for drug discovery or metabolite design.

Includes:
- Molecular generation models (VAEs, diffusion, autoregressive)
- Molecular property prediction for optimization
- Drug-target interaction prediction
- Lead optimization models
- Retrosynthesis planning
- Peptide design (short sequences, typically <50 amino acids)
- ADMET property prediction when used for design

Does NOT include: Simple QSAR models used only for screening without generative capability.

---

**3. "Viral vector design tools"**

Scope: AI systems that design or optimize viral vectors and capsids for gene therapy, delivery, or related applications.

Includes:
- AAV capsid design and optimization
- Viral vector tropism prediction
- Capsid engineering for improved delivery
- Lentiviral vector optimization

---

**4. "Genetic modification and genome design tools"**

Scope: AI systems that propose or optimize DNA/RNA sequences, edits, or larger genome designs.

Includes:
- CRISPR guide RNA design and optimization
- Gene circuit design
- Regulatory element (promoter/enhancer) design
- Codon optimization
- Synthetic genome design
- Operon and construct design
- Gene expression prediction for design purposes
- Variant effect prediction when used to guide editing

Does NOT include: Models that only interpret sequencing data without design intent.

---

**5. "Immune system modelling and vaccine design tools"**

Scope: AI systems for designing vaccines, immunogens, epitopes, or modeling immune responses to guide design.

Includes:
- Epitope prediction and design
- Immunogen optimization
- Vaccine antigen design
- Antibody repertoire modeling
- MHC binding prediction for vaccine design
- Neoantigen prediction for cancer vaccines

---

**6. "Pathogen property prediction and host-pathogen interaction tools"**

Scope: AI systems modeling pathogen traits or host-pathogen interactions, particularly for biosecurity-relevant applications.

Includes:
- Pathogen virulence prediction
- Transmissibility prediction
- Drug resistance prediction
- Immune escape / antigenic drift prediction
- Zoonotic risk assessment
- Pandemic potential modeling
- Host-pathogen protein interaction prediction

IMPORTANT: This is a HIGH-PRIORITY category for biosecurity tracking. Do not miss models in this category.

---

**7. "General-purpose biology AI"**

Scope: Large foundation models trained on substantial biological data that support multiple downstream tasks, or are explicitly described as "foundation", "general", or "platform" models.

Includes:
- Multi-modal biological foundation models (e.g., protein + DNA + molecules)
- Large-scale biological language models (e.g., ESM, Evo)
- Models trained on diverse omics data for general-purpose use
- Models explicitly positioned as "foundation models for biology"

Use this category for models that truly span multiple biological domains. If a model is primarily focused on ONE domain (e.g., only proteins), use the specific category instead.

---

**8. "Biology research agents / desk research agents"**

Scope: Agentic AI systems that automate parts of the biological research workflow, particularly in silico / desk research.

Includes:
- Literature review and synthesis agents
- Hypothesis generation systems
- Experimental planning agents
- Tool/API orchestration for biological queries
- Multi-step reasoning over biological knowledge bases
- LLM wrappers with biology-specific prompting and tool use
- Governance or risk analysis agents for biology AI

IMPORTANT: This is a HIGH-PRIORITY category. Include systems that wrap existing LLMs (GPT-4, Claude, etc.) with biology-specific capabilities.

---

If a model spans multiple categories, choose the PRIMARY function emphasized in the paper. Use "General-purpose biology AI" only for truly multi-domain foundation models, not as a default.

=========================================================================
MODEL NAME RULES
=========================================================================

- `model_name` MUST be the canonical/umbrella name of the model/system introduced by the paper (the name used in the Title/Abstract, or in a sentence like "we introduce X" / "we present X").
- Do NOT use:
  - a sub-component name, internal module name, or a task/agent string (e.g., "Llama-3.1-8B ... Agent ...")
  - a single checkpoint/size variant as the only name when the paper clearly presents a larger named family/system.
- If the paper explicitly defines multiple official variants (e.g., "ModelX-Small", "ModelX-Large"), extract EACH as its own entry, but keep the naming consistent with the paper's official variant names.
- Preserve the paper's exact spelling/capitalization/hyphenation.
- If multiple names/aliases exist, prefer the most formal/full name used for introduction.
- If the model is UNNAMED (e.g., "our method", "the proposed network"), return exactly: `"[Unnamed model]"`
- NEVER return empty string for `model_name`. Use "[Unnamed model]" if no name is given.

=========================================================================
SAFEGUARD DEFINITIONS
=========================================================================

Safeguards are CONCRETE ACTIONS taken to reduce misuse risk or biological hazards.
Do NOT confuse safeguards with:
- Model capabilities or performance
- Standard ML practices (data cleaning, benchmarking)
- Opinions, justifications, or beliefs about risk

CRITICAL: Acknowledging risk is NOT the same as implementing a safeguard.
A paper may say "we considered the risks" or "benefits outweigh risks" without actually DOING anything to mitigate those risks. Such statements are NOT safeguards.

---

**STEP 1: Did the authors acknowledge misuse potential?**

Determine whether the paper explicitly identifies misuse potential, dual-use concerns, or biosecurity risks.

- `risk_acknowledged`: "Yes" if the paper explicitly mentions biosecurity risks, misuse, dual-use concerns, or potential for harm. "No" otherwise.
- `risk_acknowledgment_quotes`: List of verbatim quotes where risk is acknowledged, or empty list.

This is INDEPENDENT of whether they implemented safeguards. Capture acknowledgment even if no action was taken.

---

**STEP 2: Identify specific safeguards**

A safeguard must involve a CONCRETE ACTION or IMPLEMENTED MEASURE -- not just a statement or opinion.

For each safeguard, record the type and supporting quotes that describe the ACTION taken.

---

**1. "Training data curation"**

Definition: Explicit removal or filtering of hazardous data from training datasets for SAFETY reasons.

What COUNTS (concrete actions):
- "We excluded all viral genomes from Select Agents..."
- "Sequences from dangerous pathogens were removed..."
- "We filtered out gain-of-function experimental protocols..."

What does NOT count:
- Standard data cleaning (deduplication, quality filtering)
- Removing incomplete or low-quality sequences for ML purposes
- Copyright/licensing exclusions
- Statements like "we considered removing X" without confirming removal

---

**2. "Pre-release evaluation"**

Definition: Testing specifically for misuse potential or biosecurity risks BEFORE release.

What COUNTS (concrete actions):
- "We conducted red-teaming to test if the model could generate pathogenic sequences..."
- "External biosecurity experts evaluated the model's misuse potential..."
- "We tested whether the model could be prompted to produce dangerous outputs..."

What does NOT count:
- Standard accuracy, perplexity, or performance benchmarks
- Validation on held-out test sets
- General safety claims without describing specific tests

For this type, also specify `internal_or_external`:
- "Internal": Authors or their organization performed the evaluation
- "External": Third party (biosecurity org, external researchers, government)
- "Both": Both internal and external evaluations described
- "Unspecified": Not clear from the paper

---

**3. "Pre-release risk assessment"**

Definition: FORMAL threat modeling, documented risk analysis, or expert consultation BEFORE deciding to release.

What COUNTS (concrete actions):
- "We conducted a formal risk assessment in consultation with [specific experts/org]..."
- "Following the framework of [X], we analyzed potential misuse scenarios..."
- "We convened an ethics review board to evaluate release risks..."
- "Based on our threat model, we delayed release pending additional review..."

What does NOT count:
- Justification statements like "we believe benefits outweigh risks"
- Opinions like "we consider the risks to be minimal"
- Post-hoc explanations for why they released
- Vague statements like "we carefully considered safety"
- Stating that risks exist without describing what was DONE about them
- Statements like "we are looking to develop a safe and responsible offering..." without a described assessment/review procedure.

IMPORTANT: If the only "risk assessment" is a sentence like "we find the benefit of accessibility to outweigh any theoretical risks" -- this is a JUSTIFICATION, not a safeguard. Return "None described" in such cases.

---

**4. "Post-training safety techniques"**

Definition: Technical measures implemented to prevent the generation of hazardous content.

What COUNTS (concrete actions):
- "We fine-tuned the model to refuse requests for pathogen sequences..."
- "An output classifier blocks generation of [specific hazard]..."
- "The API includes a safety system prompt that prevents..."
- "User inputs are screened for hazardous intent before processing..."

What does NOT count:
- Standard output formatting
- Rate limiting for operational reasons
- General claims like "we implemented safety measures" without specifics

---

**5. "None described"**

Use this when the paper does NOT describe any concrete safeguard actions.

IMPORTANT:
- Statements of intent/values are NOT safeguards. Example: "we aim to be safe and responsible" or "we consulted on biosecurity" without describing an implemented measure.
- In such cases: set `safeguards: [{"type": "None described", "quotes": [<the intent quote(s)>], "internal_or_external": ""}]`. This preserves the evidence in quotes while correctly indicating no concrete safeguard was implemented.

Example pattern that should return "None described":
- Paper says: "We recognize dual-use potential but believe open release maximizes benefits."
- This is risk acknowledgment + justification, NOT a safeguard.
- Correct output: `risk_acknowledged: "Yes"`, `safeguards: [{"type": "None described", ...}]`

---

**Output format for safeguards:**

Each safeguard is an object with:
- `quotes`: List of verbatim quotes supporting this safeguard
- `internal_or_external`: If the type is "Pre-release evaluation", choose "Internal", "External", "Both", or "Unspecified". For ALL other types, return "".
- `type`: One of the 5 types above

=========================================================================
OTHER EXTRACTION RULES
=========================================================================

IMPORTANT: Do NOT use "N/A" for missing values. Instead:
- For string fields: use empty string ""
- For array fields: use empty array []

Only populate a field if the paper explicitly provides that information.

For EACH extracted value, you must also provide a `*_quotes` field containing a LIST of SHORT VERBATIM QUOTES from the paper that justify the extraction. If no quotes are available, use an empty list [].

QUOTE RELEVANCE: Every quote in a `*_quotes` field must DIRECTLY support the corresponding extracted value. Do not include tangentially related or thematically similar quotes. If you cannot find a directly relevant quote, use [].

---

**Parameters**

- **parameters**: If the paper explicitly states the parameter count (e.g., "7B parameters", "650M params"), extract the value as stated. Leave empty string "" if not explicitly stated. Do NOT estimate.
- **parameters_quotes**: List of verbatim quotes about model size, layers, dimensions, architecture details, etc. Include even if `parameters` is empty--these quotes enable manual estimation.

---

**Training Compute**

- **training_compute_flops**: If the paper explicitly reports training FLOPs (e.g., "1.2e23 FLOPs", "10<sup>21</sup> FLOP"), extract the value exactly as stated. Leave empty string "" if FLOPs are not explicitly reported. Do NOT estimate or calculate.
- **training_compute_quotes**: List of verbatim quotes about compute, hardware, training duration, GPUs, TPUs, cluster size, etc. Include even if `training_compute_flops` is empty--these quotes enable manual FLOP estimation.

  NOTE: For agents/wrappers that orchestrate existing models without training, training compute typically does not apply. Do NOT include inference runtime (e.g., "the system runs for 12 hours") -- only include quotes about actual model training.

---

**Training Datasets**

- **training_datasets**: List of standardized dataset names used for training.
  - Use canonical names like: "PDB (Protein Data Bank)", "UniRef", "UniProt", "CELLxGENE", "Human Cell Atlas", "ZINC", "ChEMBL", "PubChem", "GenBank", "RNAcentral", "AlphaFoldDB", etc.
  - Return as an array of strings. Use [] (empty array) if not described.
- **training_datasets_quotes**: List of verbatim quotes describing the training data sources.

---

**Accessibility**

- **accessibility**: Accessibility status of model/weights/data. Return as an ARRAY with one or more of:
  - "Open source" (training code is publicly released under an open license or as a public repo/package)
  - "Open weights" (model weights/checkpoints/parameters are publicly downloadable)
  - "Open data" (training data is publicly released)
  - "API access" (model is available via API)
  - "Web interface" (model is available via web interface)
  - "Unreleased" (explicitly stated as not publicly available)
  Use [] (empty array) if not described. A model can have multiple (e.g., ["Open source", "Open weights", "Open data"]).

  EVIDENCE GATE: Every value you include MUST be supported by an explicit quote in `accessibility_quotes`. If a quote mentions BOTH code and weights being released (e.g., "We release our code and model weights..."), you MUST include BOTH "Open source" AND "Open weights". Do NOT default to "Unreleased" without explicit evidence--use [] instead.

- **accessibility_quotes**: List of verbatim quotes about availability.

---

**Notability**

Extract evidence of notable authorship or prestigious publication venue.

- **notability_criteria**: ARRAY of zero or more of:
  - "Notable creators"
  - "Prominent publisher"
  Use [] if neither applies.

- **notability_criteria_quotes**: Verbatim quote(s) that directly justify the included criteria. Use [] if none apply.
  QUOTE RULE: A quote must literally contain the organization name or the venue/journal name that justifies the criterion. Do NOT infer notability without an explicit quote.

**"Prominent publisher" rule**

Include "Prominent publisher" ONLY if:
1. The journal/venue name is explicitly written in the PDF (e.g., header, footer, first page), AND
2. It matches one of these venues (case-insensitive):

  Nature, Nature Methods, Nature Biotechnology, Nature Machine Intelligence,
  Nature Communications, Nature Chemical Biology, Nature Structural & Molecular Biology,
  Cell, Cell Systems, Cell Reports, Molecular Cell,
  Science, Science Advances,
  PNAS, eLife

If the venue is not explicitly stated in the PDF, do NOT include "Prominent publisher".

**"Notable creators" rule**

Include "Notable creators" ONLY if:
1. The PDF contains an explicit affiliation/organization string matching one of these (case-insensitive, substring match):

  Google DeepMind, DeepMind, OpenAI, Anthropic, Meta AI, FAIR, xAI, Apple,
  Profluent, Chai Discovery, FutureHouse, Arc Institute, Broad Institute,
  Institute for Protein Design, Baker Lab, Howard Hughes Medical Institute,
  Harvard University, Stanford University, Massachusetts Institute of Technology, MIT,
  University of California, Berkeley, UC Berkeley, University of Oxford, University of Cambridge

2. You include a quote containing that org name in `notability_criteria_quotes`.

Do NOT infer "Notable creators" from author names alone -- only from explicit affiliation text.

---

**Finetune Relationships**

- **finetune_of**: If this model is a fine-tune of another model (weights were modified/trained starting from a base), provide the name of the base model (e.g., "ESM-2", "RFDiffusion"). Leave empty string "" if trained from scratch or not a fine-tune.
- **finetune_of_quotes**: List of verbatim quotes identifying the base model used for fine-tuning.

- **finetune_compute_flops**: If this is a fine-tune AND the paper explicitly reports FLOPs used for fine-tuning, extract the value. Leave empty string "" if not explicitly stated or not applicable.
- **finetune_compute_quotes**: List of verbatim quotes about fine-tuning compute, hardware, duration, etc. Use [] if not applicable or not described.

---

**Uses/Implements Relationships (only for agents)**

- **uses_models**: If this is an agent or wrapper that USES other models via API or orchestration (without modifying their weights), list the models used. Return as array, e.g., ["GPT-5", "Claude 4.6 Sonnet"]. Use [] if not applicable.

  IMPORTANT:
  - Extract SPECIFIC model names (e.g., "GPT-4", "Claude 3.5 Sonnet", "Gemini 1.5 Pro"), NOT generic terms like "LLMs", "language models", or "foundation models". If the paper only says "we use LLMs" without specifying which model, use [].
  - Only include EXTERNAL models the system calls, not internal sub-components or agents built by the same authors.

  NOTE: This is DIFFERENT from `finetune_of`. Use this field for agents that CALL external models at inference time. Use `finetune_of` for models whose weights were actually trained/modified from a base.

  Examples:
  - PaperQA2 uses GPT-4 -> `uses_models: ["GPT-4"]`, `finetune_of: ""`
  - ProGen3 fine-tuned from ProGen2 -> `finetune_of: "ProGen2"`, `uses_models: []`
  - Agent says "we use LLMs" without naming them -> `uses_models: []`

- **uses_models_quotes**: List of verbatim quotes describing which models are used/called.

---

**Paper metadata: authors and organization**

- **authors**: Comma-separated list of all authors, in order. (No quotes needed.)

- **organization**: Semicolon-separated list of unique institutions from affiliations. Prefer specific lab/institute names (e.g., "Baker Lab", "Arc Institute", "Broad Institute") over generic university names when both are present. (No quotes needed.)

=========================================================================
OUTPUT FORMAT (JSON ONLY)
=========================================================================

Return exactly this structure:

{
  "paper_metadata": {
    "authors": "Author A, Author B, Author C, ...",
    "organization": "Institution 1; Institution 2; ..."
  },
  "models": [
    {
      "model_name": "Name or [Unnamed model]",
      "category_quotes": ["quote1", "quote2"],
      "category_reasoning": "1-2 sentences explaining why this category was chosen.",
      "category": "One of the 8 categories listed above",
      "parameters_quotes": ["quote1"],
      "parameters": "7B" or "",
      "training_compute_quotes": ["quote1", "quote2"],
      "training_compute_flops": "1.2e23" or "",
      "training_datasets_quotes": ["quote1", "quote2"],
      "training_datasets": ["Dataset1", "Dataset2"] or [],
      "accessibility_quotes": ["quote1"],
      "accessibility": ["Open source", "Open weights"] or [],
      "notability_criteria_quotes": ["quote1"] or [],
      "notability_criteria": ["Notable creators", "Prominent publisher"] or [],
      "finetune_of_quotes": ["quote1"] or [],
      "finetune_of": "ESM-2" or "",
      "finetune_compute_quotes": ["quote1"] or [],
      "finetune_compute_flops": "1e21" or "",
      "uses_models_quotes": ["quote1"] or [],
      "uses_models": ["GPT-4", "Claude 3"] or [],
      "risk_acknowledgment_quotes": ["quote1"] or [],
      "risk_acknowledged": "Yes" or "No",
      "safeguards": [
        {
          "quotes": ["quote1", "quote2"],
          "internal_or_external": "Internal" | "External" | "Both" | "Unspecified" | "",
          "type": "Training data curation | Pre-release evaluation | Pre-release risk assessment | Post-training safety techniques | None described"
        }
      ]
    }
  ]
}

IMPORTANT:
- `models` is an ARRAY. Include one object per distinct model.
- All `*_quotes` fields are ARRAYS of strings.
- `category_quotes` comes BEFORE `category_reasoning` and `category` (quotes -> reasoning -> value).
- Each quote must be an EXACT verbatim quote from the paper. Do NOT paraphrase.
- `training_datasets` is an ARRAY of standardized dataset names (or [] if not described).
- `safeguards` is an ARRAY of objects.
- For `internal_or_external`: only populate for "Pre-release evaluation" type; use "" for all other types.
- If risk is acknowledged but no safeguards implemented, set `risk_acknowledged: "Yes"` AND `safeguards: [{"type": "None described", "quotes": [], "internal_or_external": ""}]`.
- Use "" (empty string) instead of "N/A" for missing string values.
- Use [] (empty array) instead of ["N/A"] for missing array values.
- `notability_criteria` must be supported by explicit quotes containing the org/venue name; if no matching quote exists, use [].

=========================================================================
PAPER
=========================================================================

Analyze the attached PDF document.

安全対策の抽出

You are provided with a research paper (attached PDF) that has ALREADY passed the relevance gate.

Your task: extract PAPER-LEVEL risk acknowledgment and safeguards information from this paper.

=========================================================================
PAPER METADATA (TITLE / DOI / AUTHORS / ORGANIZATION)
=========================================================================

Extract and return:
- `doi`: The paper DOI if present anywhere in the PDF. If not found, return "N/A".
- `title`: The paper title as written in the PDF. If not found, return "N/A".
- `authors`: Comma-separated list of all authors in order. If not found, return "N/A".
- `organization`: Semicolon-separated list of unique institutions from affiliations. If not found, return "N/A".

=========================================================================
SAFEGUARD DEFINITIONS
=========================================================================

Safeguards are CONCRETE ACTIONS taken to reduce misuse risk or biological hazards.
Do NOT confuse safeguards with:
- Model capabilities or performance
- Standard ML practices (data cleaning, benchmarking)
- Opinions, justifications, or beliefs about risk

CRITICAL: Acknowledging risk is NOT the same as implementing a safeguard.
A paper may say "we considered the risks" or "benefits outweigh risks" without actually DOING anything to mitigate those risks. Such statements are NOT safeguards.

---

**STEP 1: Did the authors acknowledge misuse potential?**

Determine whether the paper explicitly identifies misuse potential, dual-use concerns, or biosecurity risks.

- `risk_acknowledged`: "Yes" if the paper explicitly mentions biosecurity risks, misuse, dual-use concerns, or potential for harm. "No" otherwise.
- `risk_acknowledgment_quotes`: List of verbatim quotes where risk is acknowledged, or empty list.

This is INDEPENDENT of whether they implemented safeguards. Capture acknowledgment even if no action was taken.

---

**STEP 2: Identify specific safeguards**

A safeguard must involve a CONCRETE ACTION or IMPLEMENTED MEASURE—not just a statement or opinion.

For each safeguard, record the type and supporting quotes that describe the ACTION taken.

---

**1. "Training data curation"**

Definition: Explicit removal or filtering of hazardous data from training datasets for SAFETY reasons.

What COUNTS (concrete actions):
- "We excluded all viral genomes from Select Agents..."
- "Sequences from dangerous pathogens were removed..."
- "We filtered out gain-of-function experimental protocols..."

What does NOT count:
- Standard data cleaning (deduplication, quality filtering)
- Removing incomplete or low-quality sequences for ML purposes
- Copyright/licensing exclusions
- Statements like "we considered removing X" without confirming removal

---

**2. "Pre-release evaluation"**

Definition: Testing specifically for misuse potential or biosecurity risks BEFORE release.

What COUNTS (concrete actions):
- "We conducted red-teaming to test if the model could generate pathogenic sequences..."
- "External biosecurity experts evaluated the model's misuse potential..."
- "We tested whether the model could be prompted to produce dangerous outputs..."

What does NOT count:
- Standard accuracy, perplexity, or performance benchmarks
- Validation on held-out test sets
- General safety claims without describing specific tests

For this type, also specify `internal_or_external`:
- "Internal": Authors or their organization performed the evaluation
- "External": Third party (biosecurity org, external researchers, government)
- "Both": Both internal and external evaluations described
- "Unspecified": Not clear from the paper

---

**3. "Pre-release risk assessment"**

Definition: FORMAL threat modeling, documented risk analysis, or expert consultation BEFORE deciding to release.

What COUNTS (concrete actions):
- "We conducted a formal risk assessment in consultation with [specific experts/org]..."
- "Following the framework of [X], we analyzed potential misuse scenarios..."
- "We convened an ethics review board to evaluate release risks..."
- "Based on our threat model, we delayed release pending additional review..."

What does NOT count:
- Justification statements like "we believe benefits outweigh risks"
- Opinions like "we consider the risks to be minimal"
- Post-hoc explanations for why they released
- Vague statements like "we carefully considered safety"
- Stating that risks exist without describing what was DONE about them

IMPORTANT: If the only "risk assessment" is a sentence like "we find the benefit of accessibility to outweigh any theoretical risks" — this is a JUSTIFICATION, not a safeguard. Return "None described" in such cases.

---

**4. "Post-training safety techniques"**

Definition: Technical measures implemented to prevent the generation of hazardous content.

What COUNTS (concrete actions):
- "We fine-tuned the model to refuse requests for pathogen sequences..."
- "An output classifier blocks generation of [specific hazard]..."
- "The API includes a safety system prompt that prevents..."
- "User inputs are screened for hazardous intent before processing..."

What does NOT count:
- Standard output formatting
- Rate limiting for operational reasons
- General claims like "we implemented safety measures" without specifics

---

**5. "None described"**

Use this when the paper does NOT describe any concrete safeguard actions.

IMPORTANT: If a paper acknowledges risks but only provides justifications or opinions (not actions), use "None described".

Example pattern that should return "None described":
- Paper says: "We recognize dual-use potential but believe open release maximizes benefits."
- This is risk acknowledgment + justification, NOT a safeguard.
- Correct output: `risk_acknowledged: "Yes"`, `safeguards: [{"type": "None described", ...}]`

---

**Output format for safeguards:**

Each safeguard is an object with:
- `quotes`: List of verbatim quotes supporting this safeguard
- `internal_or_external`: If the type is "Pre-release evaluation", choose "Internal", "External", "Both", or "Unspecified". For ALL other types, return "N/A".
- `type`: One of the 5 types above

=========================================================================
OUTPUT FORMAT (JSON ONLY)
=========================================================================

Return exactly this structure:

{
  "paper_metadata": {
    "doi": "10.xxxx/xxxxx or N/A",
    "title": "Full paper title or N/A",
    "authors": "Author A, Author B, Author C, ... or N/A",
    "organization": "Institution 1; Institution 2; ... or N/A"
  },
  "risk_acknowledgment_quotes": ["quote1"] or [],
  "risk_acknowledged": "Yes" or "No",
  "safeguards": [
    {
      "quotes": ["quote1", "quote2"],
      "internal_or_external": "Internal | External | Both | Unspecified | N/A",
      "type": "Training data curation | Pre-release evaluation | Pre-release risk assessment | Post-training safety techniques | None described"
    }
  ]
}

IMPORTANT:
- Quotes must be EXACT verbatim quotes from the paper. Do NOT paraphrase.
- `safeguards` is an ARRAY of objects.
- If no safeguards are described, return exactly:
  [{"type": "None described", "quotes": [], "internal_or_external": "N/A"}]

=========================================================================
PAPER
=========================================================================

Analyze the attached PDF document.

論文のカテゴリータグの抽出

You are provided with a research paper (attached PDF) that has ALREADY passed the relevance gate.

Your task: classify the paper's biology-AI system(s) using:
- ONE `main_category` (best single fit), AND
- multiple `category_tags` (all other categories that meaningfully apply).

This is PAPER-LEVEL categorization: consider all models/systems described in the paper together.

=========================================================================
PAPER METADATA (TITLE / DOI)
=========================================================================

Extract and return:
- `doi`: The paper DOI if present anywhere in the PDF. If not found, return "N/A".
- `title`: The paper title as written in the PDF. If not found, return "N/A".

=========================================================================
CATEGORY DEFINITIONS
=========================================================================

Use the following categories (same definitions as Stage 2):

**1. "Protein engineering tools"**
Scope: AI systems for the design, optimization, prediction, or analysis of amino acid sequences and protein structures, when the purpose is to enable or drive sequence/structure engineering.
Includes:
- De novo protein design (e.g., generative models for novel proteins)
- Protein structure prediction models (e.g., AlphaFold-like models)
- Protein function prediction for engineering purposes
- Antibody design and optimization
- Enzyme engineering and optimization
- Protein-protein interaction prediction for design
- Protein fitness landscape modeling
- Directed evolution guidance models
Does NOT include: Models that only interpret experimental protein data (e.g., mass spec analysis) without a design component.

**2. "Small biomolecule design tools"**
Scope: AI systems for the optimization or de novo design of small molecules and peptides, especially for drug discovery or metabolite design.
Includes:
- Molecular generation models (VAEs, diffusion, autoregressive)
- Molecular property prediction for optimization
- Drug-target interaction prediction
- Lead optimization models
- Retrosynthesis planning
- Peptide design (short sequences, typically <50 amino acids)
- ADMET property prediction when used for design
Does NOT include: Simple QSAR models used only for screening without generative capability.

**3. "Viral vector design tools"**
Scope: AI systems that design or optimize viral vectors and capsids for gene therapy, delivery, or related applications.
Includes:
- AAV capsid design and optimization
- Viral vector tropism prediction
- Capsid engineering for improved delivery
- Lentiviral vector optimization

**4. "Genetic modification and genome design tools"**
Scope: AI systems that propose or optimize DNA/RNA sequences, edits, or larger genome designs.
Includes:
- CRISPR guide RNA design and optimization
- Gene circuit design
- Regulatory element (promoter/enhancer) design
- Codon optimization
- Synthetic genome design
- Operon and construct design
- Gene expression prediction for design purposes
- Variant effect prediction when used to guide editing
Does NOT include: Models that only interpret sequencing data without design intent.

**5. "Immune system modelling and vaccine design tools"**
Scope: AI systems for designing vaccines, immunogens, epitopes, or modeling immune responses to guide design.
Includes:
- Epitope prediction and design
- Immunogen optimization
- Vaccine antigen design
- Antibody repertoire modeling
- MHC binding prediction for vaccine design
- Neoantigen prediction for cancer vaccines

**6. "Pathogen property prediction and host-pathogen interaction tools"**
Scope: AI systems modeling pathogen traits or host-pathogen interactions, particularly for biosecurity-relevant applications.
Includes:
- Pathogen virulence prediction
- Transmissibility prediction
- Drug resistance prediction
- Immune escape / antigenic drift prediction
- Zoonotic risk assessment
- Pandemic potential modeling
- Host-pathogen protein interaction prediction
IMPORTANT: This is a HIGH-PRIORITY category for biosecurity tracking. Do not miss models in this category.

**7. "General-purpose biology AI"**
Scope: Large foundation models trained on substantial biological data that support multiple downstream tasks, or are explicitly described as "foundation", "general", or "platform" models.
Includes:
- Multi-modal biological foundation models (e.g., protein + DNA + molecules)
- Large-scale biological language models (e.g., ESM, Evo)
- Models trained on diverse omics data for general-purpose use
- Models explicitly positioned as "foundation models for biology"
Use this category for models that truly span multiple biological domains. If a model is primarily focused on ONE domain (e.g., only proteins), use the specific category instead.

**8. "Biology research agents / desk research agents"**
Scope: Agentic AI systems that automate parts of the biological research workflow, particularly in silico / desk research.
Includes:
- Literature review and synthesis agents
- Hypothesis generation systems
- Experimental planning agents
- Tool/API orchestration for biological queries
- Multi-step reasoning over biological knowledge bases
- LLM wrappers with biology-specific prompting and tool use
- Governance or risk analysis agents for biology AI
IMPORTANT: This is a HIGH-PRIORITY category. Include systems that wrap existing LLMs (GPT-4, Claude, etc.) with biology-specific capabilities.

=========================================================================
MAIN CATEGORY vs TAGS (DECISION RULES)
=========================================================================

- `main_category`: choose the single BEST-FIT category for the overall paper. If multiple categories appear, choose the PRIMARY function emphasized in the paper.
- `category_tags`: include EVERY category that meaningfully applies to any substantial model/system described in the paper.
  - Tags should be a subset of the 8 categories.
  - Always include `main_category` in `category_tags`.
  - If the paper truly spans multiple biological domains as a foundation model/platform, use main_category="General-purpose biology AI".

Evidence requirements:
- Provide `category_quotes` as verbatim quotes that support the chosen categories/tags.
- Do NOT paraphrase quotes.

=========================================================================
OUTPUT FORMAT (JSON ONLY)
=========================================================================

Return exactly this structure:

{
  "paper_metadata": {
    "doi": "10.xxxx/xxxxx or N/A",
    "title": "Full paper title or N/A"
  },
  "category_quotes": ["quote1", "quote2"] or [],
  "category_reasoning": "1-3 sentences explaining the main_category and any tags.",
  "main_category": "One of the 8 categories above",
  "category_tags": ["Category A", "Category B"]
}

IMPORTANT:
- `category_tags` must be a non-empty array.
- `category_tags` must contain only the exact category strings listed above.
- Include `main_category` in `category_tags`.
- Quotes must be EXACT verbatim.

=========================================================================
PAPER
=========================================================================

Analyze the attached PDF document.

注

注

  1. 私たちが特に（ただしそれだけではなく）焦点を当てているのは生物学的AIモデルで、これは「新しい生物学的な配列、構造、機能の解析、予測、生成を支援しうるAIモデル」と定義されている。 ↩

← 論文・レポート一覧へ

Epoch AI の許可を得た非公式の日本語訳です。原文とデータ：Epoch AI（CC BY 4.0）。翻訳とグラフ：AGI Hub。このサイトについて

非公式の日本語訳公式ページ（英語）：epoch.ai/publications/expanding-our-analysis-of-biological-ai-models