停止は可能である

――政治家がその気になれば、AIの国際的減速はいつでも実行できる

原題: "An International AI Slowdown Is Ready Whenever Politicians Are" 著者: Felix Choussat, Adam Khoja(Center for AI Safety) 初出: AI Frontiers誌、2026年8月5日(ゲスト論考)

リード文: 中国とのAI減速合意に懐疑的な人々は、不正を防ぐには未来的な技術が必要だと言う。しかし実際には、米中両国が主要AI企業への包括的なアクセスを監査官に与えるだけでよい。

7月28日、世界トップクラスのAI企業の従業員1,000人以上が、米国政府に対して「自動化されたAI開発の最前線のペースを意図的に調整するために必要な、技術面・ガバナンス面のツールを開発する国際的取り組みを支援する」よう求めた。数か月にわたるサイバーセキュリティ上の危機と、自社で発生した制御喪失インシデントを受けて、OpenAIとAnthropicの両社も公式に同じメッセージを支持し、AI開発を盲目的に加速させることの危険を認めた。

こうした新たな危機感にもかかわらず、国際的な減速(スローダウン)の調整は現時点では実現不可能だと多くの人が主張している――減速に賛成する側の一部さえもそうだ。仮に米国が自国のAI開発を減速させたとしても、中国が同じことをしていると確認する手段がなく、結局米国には競争を続けるしか選択肢がない、というのである。

こうした減速反対論は、減速が守られていることを保証するためのAI監視技術の設計に伴う技術的困難を強調するのが常である。第一に、懐疑派は、営業秘密その他の機微情報の漏洩を避けられるだけのプライバシー保護性がない限り、各国は検証措置の導入を拒むだろうと論じる。そのうえで彼らは、近い将来に使えるプライバシー保護型の検証技術はまだ堅牢ではないと指摘する。中国が自国のGPUを監視するシステムを骨抜きにしていないと確認するのは至難の業だ。中国政府が本気で減速合意を突き崩そうとすれば、物理的な鍵の抽出や、果てはレーザーによるビット反転といった高度な技術を使ってワークロードを偽装できてしまう。したがって、国際的な減速を実施し始められる段階に到達するには、これらの問題を解決するための数年がかりの研究開発を待たねばならないかもしれない――というのが彼らの議論だ。

この見方は、木を見て森を見ていない。国家という敵対者にも耐えられるプライバシー保護型の検証ツールがあれば結構なことだが、それはAI減速の前提条件ではない。AI開発の制限をしっかり検証することは、ローテクな手法でも十分に可能なのだ。共同での減速を実施する政治的意思さえあれば、各国は人間の査察官をラボの内部に配置するだけで、認可されていない活動がないか広範に監視できる。私たちはこのアプローチを**ラボ全体査察(Whole-Lab Inspection, WLI)**と呼ぶ。

この提案では、米中双方の査察官がフロンティアAI企業への広範な物理的アクセスに加え、社内コミュニケーション、作業ログ、コードリポジトリ、計算資源(コンピュート)のテレメトリへの読み取り専用アクセスを与えられる。企業がすでに運用している監視システムを使って、査察官は業務を観察し、違反の疑いを調査できる。つまり、オペレーターの権限を持つことなく、CISO(最高情報セキュリティ責任者)並みの可視性を手にするのである。ラボの従業員の肩越しに――文字どおりにも比喩的にも――目を光らせることで、査察官は、自律的なAI研究開発の禁止やポストトレーニング(事後学習)の制限といった、きめ細かなAI開発規制をかなり確実に検証できるだろう。WLIは、競合国の監査官に対してAI企業を公式に透明化するものだが、後述するように、この状態は現状の知的財産流出とさほど変わらないかもしれない。要するにWLIが示しているのは、国際的な減速はすでに技術的には可能であり、あとは米中がそれを共同で実施する政治的意思を持つかどうかの問題にすぎない、ということだ。

ラボ全体査察(原文の図を翻訳・再作成)

近い将来、減速を実施する政治的意思は急速に生まれうる。高度なAIシステムが急速に開発・普及すれば、大量破壊兵器を誰の手にも届くものにし、失業の波を引き起こして、社会を激しく不安定化させる可能性が高い。これらの脅威に加え、知能爆発(intelligence explosion)を放置すれば、各国が戦略的優位を求めて強力なAIシステムの妨害と展開を競うなかで、軍事的エスカレーションや制御の喪失のリスクが生じる。そうした深刻な不安定化が現実になった場合、米国が国内で開発を減速させ、相互査察を提案すれば、中国にはそれに合意する強い動機が生まれるはずだ。

以下では、まず、ラボ全体査察によってAI開発へのきめ細かな制限を確実に執行できることを論じる。次に、米中がいずれかの時点でWLIを用いた共同減速に踏み切る誘因について述べる。最後に、適切なタイミングでの減速がもたらす安定化とリスク低減の便益を論じる。

ラボ全体査察による減速の執行

減速に合意するためには、米中は互いのフロンティアラボの内部でどのような研究が行われているかを知る必要がある。幸い、AI開発への可視性は、人間の監査官を送り込んでラボを包括的に監視することで達成できる。

監査官はAI企業への高い可視性を持ちうる。 許可されていない訓練実行(トレーニングラン)や禁止された研究活動の監視は、人間の査察官がいればおおむね容易だろう。その大きな理由は、AI企業がすでに広範な社内監視システムを備えていることにある。ほとんどのAI企業は、訓練データの生成と自動化支援のために従業員の画面とキー入力を記録している。また各社は、計算資源の使用を追跡し研究の進捗を記録するために、実験のログや投入されたジョブを常時保存している。査察官にラボへの包括的な可視性を与えることは、社内ログと社内コミュニケーションを統合し、その読み取り専用権限を引き渡すだけで済む可能性が高い。監督を助けるために、査察官は、企業自身のAIエージェントや信頼できる外部AIに膨大な社内データを読み込ませ、精査すべき違反の疑いを探させることもできるだろう。

こうしたデジタル情報に加えて、査察官はラボやデータセンターの従業員と並んで現場で働くこともでき、ハードウェアや研究プロジェクトへの物理的アクセスを得られる。原子力発電所や銀行をはじめとするあらゆる高リスク産業と同じように、査察官は従業員に業務内容を質問し、インフラを直接手で調べてコンプライアンスを確認できる。このように単純な検証手法を幅広く備えた査察官がいれば、無許可の訓練実行を気づかれずに行うことは極めて難しくなる――航空管制官に見つからずに飛行機を滑走路から飛び立たせようとするようなものだ。

WLIが確立されれば、政府はAI開発を減速させる幅広い政策を執行できるようになる。

知能爆発の防止。 AI開発が進みうる最も危険な道は、全速力の知能爆発である。すなわち、AIを使ってさらに賢い新たなAIシステムを再帰的・自律的に設計させることだ。AIは人間よりはるかに速く働けるうえ、このプロセスはやがて人間の監視者よりも有能なAIシステムを短期間で生み出しかねないため、人間がAIを実効的に監督したり、AIが逸脱した際に介入したりすることは不可能になる公算が大きい。これを防ぐために、査察官は自律的なAI研究開発をピンポイントで制限する的を絞った介入を執行できる。たとえば、最も多くの計算資源を使っているジョブを優先的に選び出し、それが能力(ケイパビリティ)研究に使われていないかを監査する、といった具合だ。こうした制限に加えて、査察官は、エージェントが自律的に作業を続けられる時間の長さを制限し、社内推論に割り当てられる計算資源の量を監視し、訓練実行の開始や新規デプロイの承認といった重大な行為をAIが行えないようにすることもできる。

ポストトレーニングの制限。 AIがもたらしうるリスクの幅広さを踏まえれば、政府は訓練への制限を、自律的AI研究開発への介入だけにとどめず拡大したいと考えるかもしれない。その自然な方法の一つが、ポストトレーニング(事後学習)への制限である。ポストトレーニング後のモデルの能力と効率の向上幅を測定すれば、査察官は、そのモデルの展開や、それを生み出した種類の訓練環境を不許可とする明確な基準を持てる。同様に、ポストトレーニング用データセットがどの大まかな能力――コーディング、コンピュータ操作、医療診断など――を狙っているかを査察官は直接観察できるため、伸ばしてよい能力の種類に制限をかけることもできる。ホワイトリストに載せる訓練領域としては、AIの敵対的頑健性(adversarial robustness)や逸脱行動を起こしにくい性向を高める直接的な安全性訓練のほか、医療や形式検証済みコードのような社会に資する分野に的を絞った狭いAI for Science(科学のためのAI)の取り組みが考えられる。

安全性ベンチマークスコア(原文の図を翻訳・再作成)

減速レジームの下では、能力の大幅な向上を伴わない限り、敵対的頑健性のような特定の安全性指標を改善するポストトレーニングは許容されうる。AI安全性研究をこのように「差分」で捉える視点についてはこちらで詳しく論じられている。

これらの介入以外にも、ラボ全体査察はさまざまな規制を可能にする。たとえば人間の監査官は、特定のデータセンターが推論専用に改修され、事前学習(プリトレーニング)を実行できない状態にあることや、キルスイッチによってAIを即座に停止できることを確認するのに使える。この種の共同検証だけでも何年にもわたる開発の先送りを支えるのに十分でありえ、その間に米中は、より徹底した、技術的に洗練された検証措置を開発する時間を十分に確保できる。

共同検証

ラボ全体査察は、単純明快で効果的だ。国内の政治的ショックが引き金になれば、それは国内で迅速に導入・執行され、査察対象の企業が無許可の訓練実行を行うことは極めて困難になるだろう。ただし、この取り組みを国際的に広げるには、米中が共同検証を実施する必要がある。すなわち、査察官に相手国のフロンティアラボへの現場アクセスを認めることだ。

幸い、この合意は善意や信頼に依存する必要がない。高度なAIはどこで開発されようと世界を不安定化させうるため、相手国が無謀な開発を進めていないことを確認するのは、各国自身の利益にかなう。しかも、どちらかの国が共同査察の受け入れを拒んだとしても、その国が自国のAIプロジェクトを隠し通し、窃取や妨害から守り抜くのは難しいだろう。

米中は同時に減速への政治的圧力を経験するかもしれない。 高度なAIがもたらす最も差し迫ったリスクの多くは、両国に対称的に働く。大量失業を引き起こし、テロリストに力を与え、あるいは暴走エージェントとして猛威を振るうAIの開発と普及は、どの国が作ったかに関係なく世界的な混乱を招く。同様に、軍事的優位への恐怖は、報復的な妨害工作がより大きな紛争へと螺旋状に発展しかねない、危険で無駄の多い安全保障のジレンマを引き起こしうる。したがって、安全と安定を維持するためには、米中それぞれが、相手が自国のAIシステムを無謀に展開していないことを確認する必要がある――そしてそれは、全面的な開発競争の下では保証する術がないものなのだ。

AI企業の営業秘密は、国家にとって盗むのが容易である。 相互のラボ全体査察の下では、監査官は相手国のAI企業の開発データに広くアクセスできることになるが、これは現状からの大きな変化とは言えない。今日、モデル開発に関する情報は、従業員が絶えず転職を繰り返し、研究を公表し、ブレイクスルーを社内Slackに書き込むなかで、フロンティアラボの内外を自由に流れている。こうした明白な穴を塞いだとしても、AI開発を国家による窃取から守り切るのは依然として途方もなく難しい。内部の人間――とりわけ米国のフロンティアラボで働く中国籍の人材――は、買収や強要によってスパイ行為に加担させられる可能性がある。AI開発はまた、本質的にサイバー攻撃に脆弱であり、ネットワークソフトウェアの脆弱性の悪用から、ハードウェアのサプライチェーンを通じたスパイウェアの混入まで、研究成果やモデルを盗む機会はいくらでもある。こうした弱点の結果として、全速力での開発に走った国はどのみち、フロンティアラボから秘密が漏れ出し、ライバル国がアルゴリズム面で肩を並べるところまで引き上げられてしまう可能性が高いのである。

計算資源の追跡により、AIプロジェクトを隠すことは難しくなる。 残る優先課題は、査察官の目の届かない大規模AIプロジェクトが存在しないことを確認することだ。幸い、AIのサプライチェーンは極めて集中しており、チップ生産を隠すのは至難の業であるため、主要な半導体・チップ供給企業を監査すれば、米中は世界に存在するチップの数を高い確度で把握できる。実務上、大規模データセンターの監視は、主要チップメーカーに生産と販売の詳細な記録の提出を義務づけ、可視化されたプロジェクトが申告する計算資源と突き合わせ、さらに追加の予防措置として衛星画像と電力使用量を分析する、という程度の作業で足りるかもしれない。

以上の要因を踏まえれば、査察官にフロンティアラボとデータセンターへの物理的アクセスが与えられる限り、グローバルなラボ全体査察の取り組みは、相互に成立可能で、低コストで、高い確度を持ちうる。仮に米国または中国がそのアクセスを拒否したり後に撤回したりしたとしても、抑止によってAI開発を一方的に減速させることは依然として可能だ。世界のチップサプライチェーンは、世界で最も脆弱かつ特殊化された産業である。どちらの国もその気になれば、輸出規制や主要サプライヤーへの妨害工作によって、莫大な摩擦を生じさせることができる。同様に各国は、悪意あるバックドアを仕込むデータポイズニングや、Stuxnet型のGPUへの攻撃といった、訓練実行への巧妙なサイバー攻撃を通じてAIの訓練を妨害することもできる。

減速の便益

究極的には、減速の目的は、AIの急速な開発と普及がもたらすリスクに社会が適応するのを助けることにある。これまでのところ、こうしたリスクは十分に穏やかで、十分にゆっくりと現れてきたため、政府と民間産業は事後対応でそれらに対処できてきた。汎用的なAI能力の向上を減速させることで、政府は、社会が新たなリスクに対応し続けられることと、リスク緩和への十分な投資がなされることの両方を確保できる。

減速は、社会が高度なAIに適応するための時間をもたらす。 新たな大量破壊兵器の登場やAI開発をめぐる突発的な軍事対立のように、高度なAIからの脅威があまりに速く現れれば、政府にはそれを評価し事後的に規制する時間がなく、緊急措置に頼らざるを得なくなる。AI開発を先回りして減速させれば、政策立案者も、そして社会全体も、放っておけば激震となったはずの変化に対応できるようになる。政治の面では、有権者と議会が、AIの便益をどう分配するか、AI開発者が公衆にどこまでの透明性を負うのかを決められるようになる。国際面では、各国が強力な新軍事技術の到来に先立って備え、より堅牢な検証措置に投資できるようになる。

この意味で、早い段階での穏当な政府介入は、後になってからの大規模な行き過ぎた介入の必要を回避し、AI開発のペースを社会が対応できる水準に保つことになる。

減速で得た時間は、リスク緩和への直接投資に充てられる。 競争と汎用能力の向上への強烈な圧力がなければ、投資はむしろ、AIシステムを制御可能なものにすることと、社会に資する目的のために開発することへ振り向けられる。たとえばAI安全性の主要な未解決問題には、ジェイルブレイク(脱獄)への堅牢な解決策の欠如や、強化学習がモデルの暴走を助長する傾向が含まれる。これらはモデルの能力が高まった時点で未解決のままなら、悲惨な結果を生む公算が大きい。敵対的頑健性や行動性向といった領域の訓練を拡大することで、AI開発者は膨大な計算資源をジェイルブレイクへの脆弱性や逃亡の試みを減らすことに費やせる。ほかの安全対策としては、完全にエアギャップされた訓練環境などによるAIシステムの徹底したサンドボックス化や、実用的な解釈可能性(インタープリタビリティ)ツールの保全と拡充が考えられる。

AIの減速に新技術は要らない

AI開発の減速は、いかなるブレイクスルーも待つ必要がない。技術的なレベルでは、ラボ全体査察は、フロンティアラボが最も危険な種類の開発への制限を守っているかどうかを監視する、堅牢で柔軟な方法になりうる。作業ログを読み込み、それを記録している人々のすぐ隣に立つ人間の監査官は、新しい発明を一つも必要とせずに、自律的AI研究開発やポストトレーニングへの微妙な制限を検証できるのだ。

そこから先、グローバルな減速は政治的意思の問題にすぎない――そしてその問いには、かつて説得力ある形で答えが出されたことがある。1980年代の終わりまでに、核軍拡競争の頂点で深淵を覗き込んだ米国とソ連でさえ、相互軍縮の必要性を認識するに至った。二十年以上にわたり、ソ連崩壊そのものというきわめて緊迫した年月の間でさえ、それは、ロシアと米国の査察官が互いの軍事基地に立ち入り、弾頭を手作業で数えることを認めるだけで達成されたのである。

同じように、米中もまもなく、自国での破局を回避できるかどうかは、相手国での開発を検証できるかどうかにかかっていると気づくかもしれない。査察官がシベリアとノースダコタで核弾頭を数えられたのなら、シリコンバレーと深圳で作業ログを確認することも間違いなくできる。減速を検証するのに、より優れた技術は必要ない――必要なのは、それを要求するに足るだけ深刻な、共有されたリスクだけである。

ラボ全体査察の着想を提案してくれたDan Hendrycks氏に特別な感謝を捧げる。

クレジット

原文 (English) を読む