AIの到来時期を数十年先と見る論拠

Gradient Updates は著者個人の見解を述べるニュースレターで、Epoch AI 全体の見解とは限りません。

変革的なAI能力がいつ実現するかは、AIをめぐって最もよく議論される問いの一つである。意見は大きく分かれており、業界の内部にいる人々は概して、外部の観察者よりはるかに速い進歩を予想している。たとえば Dario Amodei は、AIが「ほぼすべての事柄で、ほぼすべての人間」を上回るまで残り2〜3年しかないかもしれないと考えている。一方、William Nordhaus のような経済学者は、今も100年以上の猶予があるかもしれないと考えている。

リモートワークが完全に自動化されるまで約20年という私自身の到来時期（タイムライン）の中央値は、世界の大半の人々と比べればかなり強気だと見なされるだろう。しかし、AI分野の人々の大半（そして Epoch の多くの同僚さえ）は、これよりずっと短い到来時期を見込んでいる。最近の AI 2027 レポートに見られるような1〜10年程度の到来時期は、しばしば「標準の立場」と見なされ、異を唱えるならそれに反論を示さなければならない。今号では、私が比較的弱気な見方をとる主な理由を詳しく説明する。まず、短い到来時期を支持するよくある議論のいくつかに私が納得しない理由を述べ、次に、リモートワークの完全自動化までの期間の中央値として20年という具体的な数字にどうたどり着いたかを説明する。

私の見方と、より短い到来時期を見込む人々の見方を分ける主な論点をまとめると、次のようになる。

数年程度という非常に短い到来時期を導くために外挿すべきトレンドが、私には見当たらない。AIの経済的影響について素直にトレンドを外挿すると、リモートワークの完全自動化までの到来時期はおよそ10年となる。そして私は、何もなければこれらのトレンドは減速すると予想している。
AIが現実世界に与える影響の現在の成長率が突然、劇的に1桁加速する仕組みとして、ソフトウェアのみのシンギュラリティ（software-only singularity）がもっともらしいとは思わない。主な理由は、実験用の計算資源と現実世界のデータから来るボトルネックを私がずっと重く見ていることである。リモートワークの自動化までの到来時期は10年よりはるかに短いと予想すべきだとするよく知られた議論では、この種の加速が欠かせない要素になっている。
AIシステムがどれほど速く考えられるか、どれほど多くを展開できるかについて、文章作成やコーディング、推論といった狭いタスクから得られる直感は、モラベックのパラドックスのために大きく的を外していると思う。実際には、エージェント的なタスク、マルチモーダルなタスク、長いコンテキストを要するタスクをこなさせるにつれて、AIシステムは遅く高価になっていくと私は予想している。これはAIエージェントの台頭によってすでに起きており、このトレンドは今後も続くと予想する。

それでも、10年でのリモートワークの完全自動化はありうると思う。現在の売上高の成長率を素直に外挿し、減速がないと仮定すれば、そう予測されるからだ。ただし、この結果に私が付ける確率は30%程度にすぎない。

トレンドの外挿は短い到来時期を示していない

短い到来時期を支持する議論で、おそらく私が最もよく耳にするのは次のようなものだ。過去5年間にAIは大きく進歩しており、それと比べれば、AIが経済のあらゆるリモートワークのタスクを自動化できるようになるまでの残りは、それほど多くないように見える、というのである。これは暗にトレンドの外挿による議論である。何らかの「進歩の速さ」、すなわちトレンドの傾きを測り、ある閾値までの残りの距離が短期間で越えられるほど小さいと述べているのである。

このように言い直すと、この議論の問題点は明らかになる。どのトレンドを外挿するのか、という問題である。AIシステムがリモートワークを自動化する能力を捉えるベンチマークは存在しないし、「米国経済における労働分配率」のような変数を見れば、到来時期は1世紀かそれ以上という桁になる。人々が実際に外挿したがっているらしいトレンドは、「知能」や「すごさ」を測る何らかの尺度である。しかし、この主観的な意味でシステムがどれほどすごくなれば、経済のリモートワークのタスクの大半あるいはすべてを実際にこなせるようになるのかは、まったくはっきりしない。

見るべきものとしては売上高のトレンドがおそらく最も信頼でき、その中でも NVIDIA の売上高がおそらく最良だと私は考える。上場企業なので四半期ごとの開示書類があり、AI研究所だけでなく、大手テック企業をはじめとするデータセンター向けGPUの購入者も網羅しているからだ。ただし、このトレンドを外挿する前に、どの水準の売上高がリモートワークの完全自動化に相当するのかを知る必要がある。

これは次のように大まかに見積もれる。米国ではGDPに占める労働分配率は約60%であり、Dingel and Neiman (2020) によれば、在宅でこなせる仕事は米国の賃金の46%を占める。したがって、米国でリモート化できる仕事の賃金は年約7.4兆ドルとなる。米国は世界総生産のおよそ4分の1を占めるので、世界全体でリモート化できる仕事の賃金総額を素朴に見積もるなら、これを4倍して年30兆ドルとなる。世界の大半の地域では、賃金総額に占めるリモート化できる仕事の割合が米国より小さいことを考慮してこの数字を下方修正すると、年20兆ドルといった数字が妥当に思える。

この見積もりをリモートワーク自動化の売上高の閾値として使うと、NVIDIA の売上高を素朴に幾何級数的に外挿した場合、リモートワークの自動化までの到来時期は7〜8年となる。

もちろん、これは売上高の成長が減速しないことを前提としており、現実的ではない。実際には、NVIDIA の売上高は2023年第1四半期に ChatGPT が登場して以降、直線的に伸びており、そのペースは四半期ごとに年換算売上高がおよそ200億ドルずつ増えるというものだ。この直線的なトレンドを外挿すると、リモートワークの自動化までの到来時期は数世紀という桁になる。後の節で詳しく述べる理由から、これは明らかに悲観的すぎると思う。それでも、2023年第1四半期以降の直線的なトレンドと、これほど急激な売上高の成長はふつう売上高が増えるにつれて減速するという一般的な事前の見方とを合わせれば、到来時期は8年よりかなり長いと予想する理由になると考える。

急激な売上高の成長が突然減速しうることの一例として、世界のインターネット企業の売上高の合計は、1990年から2000年まで平均して毎年倍増していたが、ドットコムブームの終焉後、この成長は10分の1に減速した。売上高は1990年の年10億ドル未満から2000年には年8,000億ドルになったが、今日でも世界全体で年10兆ドルに満たない。インフレを考慮すれば、2000年以降に実質で見られた倍増はせいぜいあと2回であり、1990年代に見られた10回の倍増とは対照的である。

そのため、AI産業全体の売上高について最もありそうなのは、上の図に示した中間的な予測だと思う。直線的な成長では倍増するごとに成長率が半分に落ちるが、このトレンドでは倍増ごとに成長率が約30%しか落ちない。30%という正確な数字は、リモートワークの自動化が起きると予測する時期にとっては重要だが、AIの到来時期が数十年先になるはずだという結論を支えているわけではない。指数関数的なトレンドに多少なりとも減速を織り込めば、どのようなものでもこの結論になる。

AIの売上高の成長がまったく減速しない、あるいは加速さえするという主張は、人間並みあるいは人間を超えるAIシステムによって可能になるフィードバックループに依拠している。短い到来時期を唱える人々は、たいていソフトウェアの研究開発（R&D）のフィードバックをより重視する。これに対して私の考えでは、重要なフィードバックループは、幅広い自動化と、生産物を資本蓄積・チップ生産・生産性向上などに再投資することのほうに基づいている。

ドットコムブームを止めたのと同じ経済的ボトルネックにAI産業が陥らないと私が考える理由は、AIによる自動化が幅広い分野に及ぶことに決定的に依存している。そのため、経済の大部分がすでに自動化されるまでは、既存の経済的な進歩やアルゴリズムの進歩のトレンドが大きく加速するとは予想していない。これは、AI 2027 レポートの著者たちのように、より短い到来時期を信じる多くの人々と私の見方を分ける重要な論点である。

ソフトウェアのシンギュラリティは起こりそうにない

先に述べたように、ソフトウェアのみのシンギュラリティは、短い到来時期を予測する多くの議論で中心的な役割を果たしている。その考え方は次のとおりだ。AIは、リモートワークのタスク全般で人間を超えるよりかなり前に、コーディングと研究開発で人間を超えるようになり、そうなればAIは自らのソフトウェアの研究開発を自動化できるようになる。すると「急激な自己改良（foom）」のシナリオに至る。より優れたソフトウェアがより多くの、より賢いAIを生み、それが研究者の実質的な供給を増やすことで、アルゴリズムの進歩をさらに加速させる。AIシステムは、狭い意味でのコーディングや推論ではすでに比較的優れているので、このフィードバックループが始まるまでに必要な進歩はあとわずかだということになる。

私がこのシナリオを起こりそうにないと考える理由はいくつかある。

このシナリオは、研究者の仕事を自動化する難しさを過小評価している。現実世界の職場環境は雑然としており、コードを書くことと実験結果について推論することだけに注目した抽象化では無視される細部がたくさんある。したがって、AIの研究開発を自動化することが、リモートワーク全般を自動化することよりはるかに容易だと予想すべきではない。
AIのソフトウェアの研究開発は、知的な研究努力だけでなく、実験用の計算資源とデータによっても制約されているように見える。ほかの要素をほぼそのままにして知的な努力だけを何桁も拡大すれば、これらのボトルネックがおそらく効いてきて、シンギュラリティが起こりかけても立ち消えになるだろう。
AIの「ソフトウェア効率」という概念について、私たちの理解はかなり乏しいと思う。私自身、その効率がどれほど速く向上してきたかを推定するいくつかのプロジェクトに関わってきたが、それでもそう思う。

主な問題は、典型的な抽象化ではソフトウェア効率を、あらゆる能力水準で学習や推論実行のコストを一様に減らす乗数と想定している点にある。しかし実際には、重要なソフトウェア上の革新の大半は、発見するのに実験用の計算資源を必要とするだけでなく、大きな計算規模でしか機能せず、小さな規模では役に立たないようだ。したがって、計算資源の拡大がボトルネックになった場合、「ソフトウェアの進歩」が現在に近いペースで続くと予想する理由はない。

これらの議論はそれほど強いものではない。これらが成り立たなかった場合、ソフトウェアのみのシンギュラリティは五分五分程度の確率で起こりそうに見える。そのため私は、今後10年間に、計算資源のストックが2倍を超えて増えないまま、AIのアルゴリズムの進歩が10倍に加速する状態が少なくとも数か月連続で続く確率を、なお約10%と見ている。研究者の仕事がどれほど複雑か、知的な投入と計算資源・データの投入がどれほど補完的かといった重要な問いが未解決のままの領域では、確信を持つのが難しいというだけのことである。

ソフトウェアのみのシンギュラリティはより憶測的に思えるが、AIによる自動化からより広い経済的シンギュラリティのようなものが生じることは、十分にありうると今も考えている。私の見方とソフトウェアのシンギュラリティとの違いは、AIの能力の急速な進歩を維持するには、純粋な知的研究努力と並んで計算資源とデータも拡大する必要があると私が考えている点にある。これは、単一のデータセンターでシミュレートされたAI研究者だけではできない。しかし、幅広いAI自動化の結果として世界経済全体がはるかに速く成長しはじめれば、十分に実現可能である。このような加速は、AIシステムがすでに経済を幅広く自動化してはじめて始まりうるものなので、リモートワークの完全自動化までの到来時期が、そうでない場合よりはるかに短くなると予想する理由にはならない。

AIエージェントがあらゆるリモートワークを自動化するには大量の計算資源が必要になる

短い到来時期を唱える人々は、少なくとも汎用AIシステムが開発された直後に、推論実行の計算資源をどれほど効率よく経済的価値や現実世界への影響に変換できるかについても、強気な見方をしていると思う。私の予想では、これらのシステムは当初、計算資源を大規模に経済的価値へ変える点で人間の脳と同等か、それより劣るだろう。また、関連する仕事のタスクの大半をこなす速さについても、人間よりはるかに速いとは予想していない。

これは不合理な主張に見えるかもしれない。AIシステムはあるタスクをこなせるようになると、すぐに人間よりはるかに安く速くそのタスクをこなせるようになることを、私たちは「知っている」からだ。しかし、この推論は二つの決定的な点を無視していると私は主張したい。

経験的に見ると、最近自動化されたタスクをAIがこなす場合と、同じタスクを人間がこなす場合のコストと時間の差は縮まってきている。最近では、これが推論モデルやエージェントという形で現れている。これらは、回答の最終的なトークン一つひとつ、あるいは自らがとる個々の行動ごとに、多くの推論トークンを生成する必要がある。これらのモデルはあまりに多くの計算資源を必要とするため、現時点では推論実行のトークンは、需要よりもむしろ供給によって制約されていると言ってよいだろう。
理論的には、人間の脳がうまくこなすよう最適化されていないタスクでは、AIシステムは人間の脳よりたやすくはるかに効率的になると予想すべきである。これがモラベックのパラドックスの教訓である。しかし、AIが人間にできるタスクをより多く自動化できるようになるにつれて、新たに加わる限界的なタスクでのコストと速度の優位は次第に小さくなっていく。この見方と整合して、コンピュータは算術では人間より何十億倍も速いかもしれないが、翻訳では1000倍しか速くなく、OpenAI の Deep Research がこなすようなよりエージェント的なタスクでは10倍未満しか速くない。

AIモデルが依然として人間よりサンプル効率が低いことを考えると、この二点から私は次のように考える。AIモデルがあらゆるリモートワークを自動化するには、当初は、現在それらのリモートワークのタスクをこなしている人間が使っているのと少なくとも同じだけの推論実行の計算資源が必要になる。したがって、これが起きると予想する自然な時点は、世界のすべてのAIシステムが使う推論実行の計算資源の合計が、世界中の人間の脳で行われていると考えられる計算の合計を超えるときである。

GPUの価格性能比の現在のトレンドが続けば、20年後には16ビットFLOPのコストは約3e20 FLOP/ドルになる。データセンターの計算資源に年10兆ドルという気前のよい支出をすれば、合計1e26 FLOP/sのデータセンター処理能力を買える。これは、脳1つあたり1e15 FLOP/sとして世界のすべての人間の脳の計算能力を見積もった値の約10倍にあたる。年10兆ドルは莫大な投資額であり、AIが人間の脳と比べて全般的にソフトウェア効率で上回るのか下回るのかもはっきりしない。そのため、AIの仕事が経済的な重要性で人間の仕事を追い越すと予想する標準的な時点として、これは妥当だと思う。

参考までに、2024年に NVIDIA のGPUに費やされた額は約1,000億ドルであり、2024年第4四半期の時点で世界中の NVIDIA のデータセンター向けチップの総計算能力は約4e21 FLOP/sにすぎなかった。全体として、推論実行に使える計算資源は、世界中の人間の脳の総計算能力と比べればまだごくわずかである。

この見方に対するもっともな反論は、AIの働き手が人間に対して持つ大きな利点を無視している、というものだ。その利点の多くについては、私自身も過去に書いてきた。たとえば、AIシステムの「一度学習すれば多数を展開できる」という性質は、人間にはない規模に関する収穫逓増の源をAIに与える。また、限られた推論実行の予算を、平均的な働き手ではなく世界経済で最も生産性の高い働き手の代わりにだけ使うのだから、AIは人間より生産的になる、と論じることもできる。

これらは確かに、長期的には、おそらく経済の大部分がすでに自動化された後に、AIの働き手が費やすFLOPあたりで人間より生産的になると予想する理由である。しかし短期的には、状況はかなり違って見える。こうした利点は今日すでに存在しているが、費やしたFLOPあたりの売上高で見て、AIシステムが人間よりはるかに生産的になるという結果にはつながっていない。

データセンターの計算資源の世界的な供給量は現在、H100換算で数百万台規模の低いほうであり、AI産業の世界全体の売上高はおそらく年に数百億ドル規模の低いほうである。ここから導かれるH100換算1台あたりの売上高は年約1万ドルにすぎず、これは1人あたりの世界総生産とおおむね同水準である。AIシステムは、典型的な人間の働き手より何桁も生産的になっているわけではまったくない。

それどころか、H100換算1台あたりにAIシステムが生み出す売上高は、ChatGPT の登場以降、AIシステムの能力が劇的に向上したにもかかわらず増えていない。業界の売上高の成長はすべて、推論実行の計算資源の供給拡大に対応しており、H100換算1台あたりの売上高はほぼ一定のままである。この生の事実は、OpenAI が2029年までキャッシュフローが黒字になると見込んでいない理由の一端でもある。

AIが経済全体を自動化し、爆発的な経済成長につながるフィードバックループを始動させれば、AIの能力に投じられる主要な投入物がすべて急速に増えるので、この状況は将来変わると私は考えている。しかしそれまでは、H100換算1台あたりの売上高が劇的に増えると予想する理由は見当たらない。むしろ、この10年が終わるまでにこの数字が減少しても驚かないだろう。

結論

全体として、AIの到来時期が数十年先だとする私の基本的な論拠は次のとおりである。現在の売上高のトレンドを幾何級数的に外挿すれば、リモートワークの完全自動化は約8年後と予想されるはずだが、これらのトレンドが大きく減速すると予想する理由は多く、加速すると予想する理由は比較的少ない。同じように急成長した産業が減速を経験した過去の例や、NVIDIA の四半期報告にすでに見えている成長率の低下を踏まえると、AI産業の売上高が今後8年間、ただひたすら毎年かそれ以上の速さで倍増しつづける世界が来たら、私は驚くだろう。