論文
AIによる爆発的成長：論拠の検討
原題：Explosive growth from AI: A review of the arguments
AIが経済的に価値のあるタスクをどこまで自動化できるかは、おそらくAIシステムの能力を測る最も重要な尺度である。私たちが以前に調べたとおり、そうしたタスクが急速に自動化されれば、経済成長と技術の発展が加速する可能性がある。爆発的成長の可能性は、AIが社会に変革的な影響を与えることを示す決定的な要因だと私たちは考えている。しかし、極端な加速が起こりうる、あるいは起こりえない理由は何か、また起こりうるとすれば、そうした加速がどれほど続きうるのか、という問いは残っている。
arXiv のプレプリントとして公開した新しい論文では、高度なAIシステムが広く導入されたときに、今日の最先端経済で一般的な成長率の10倍程度の成長を見込んでよい理由と、見込めない理由について、主な論拠を整理した。これらの論拠を詳しく説明し、その説得力を暫定的に評価している。規制、有能なAIを開発するうえでの研究開発（R&D）の難しさ、ほかの投入物の制約といった特定の仕組みが、なぜ成長率を特定の方向に動かしうるのかを明らかにすることを目指した。論拠ごとに成長率を明示的に推定してはいないが、特定のボトルネックが効くためには、いくつかのパラメータがどれほど極端でなければならないかを分析している。
今回の研究から、いくつかの重要なテーマが見えてきた。
成長理論のモデルは爆発的成長を予測する。標準的で確立された成長理論のモデルは、経済のほとんどあるいはすべてのタスクでAIが人間の労働を代替できるようになると、何もなければ爆発的成長を予測することが多い。
規制がAIによる成長を抑えうる。AIへの厳しい規制や（政治経済や、リスクへの懸念から生じる）さまざまな制約は、経済成長と技術進歩の大幅な加速を防ぐのに十分かもしれない。とはいえ、多くの主体に分散した開発・導入への強い誘因があり、アルゴリズムの進歩によってAI開発のコストも下がっていることを踏まえると、それは起こりにくいかもしれない。
爆発的成長への反論の多くは弱い。AIによる爆発的成長に反対する議論の多くは、確かな証拠を欠いている。たとえば、物理的な限界や拡大できない要素が成長のボトルネックになるという主張は、現在の資源の使用量がそうした理論上の限界から程遠いことを考えると、精査に耐えないことが多い。
AIによる爆発的成長は否定しにくいが、それが起こるかどうかは決して確実ではない。今世紀末までに幅広い自動化とそれに続く爆発的成長が起こる確率は、ほぼ五分五分だと私たちは考えている。しかし、もっともな反論が数多くあり、経済成長について隙のないモデルもないことを考えると、爆発的成長を強く確信するのはやはり正当化できないように思える。
AIによる爆発的成長が起こりうる理由
現在、経済の成長に合わせてすぐに拡大できない主要な経済的投入物は、おそらく労働だけである。資本（機械、建物）と技術の水準は、このように比例して拡大できる（ただし、技術には労働が必要であり、その労働はやはり拡大しにくいという注意点がある）。自動化なしに速い経済成長が起こりにくい理由の一端はここにある。私たちは人口増加率に制約されているのだ。そうであれば、人間の労働を「デジタルワーカー」で自動化することは、実質的に、主要な経済的投入物のすべてを追加の支出によってすぐに、かつ継続的に蓄積できるようになることを意味する。
さらに、標準的な研究開発ベースの成長モデルは、経済が規模に関する収穫逓増を示すとも予測する。すべての投入物を2倍にすると、産出は2倍を超えて増えるということだ。経済の規模を拡大するとイノベーションが生まれ、それが全般的に生産性の水準を引き上げるからである。
では、労働が自動化されると何が起こるのか。自動化された労働が技術の改善に部分的にでも貢献できるなら、経済への主要な投入物（労働、資本、「アイデア」）のすべてが、経済の成長率に合わせて伸びられるようになる。規模に関する収穫逓増があるので、これは成長を加速させる。投入物は産出の拡大に比例して拡大されるが、産出はそのたびにより大きな割合で拡大するからだ。このような基本的な経済モデルは、労働が完全に自動化されれば成長が加速すると予測する。
これは経済成長の最も説得力のある理論の一つから導かれる頑健な含意だが、この議論が与えるのは強力な証拠であって、揺るぎない証拠ではない。たとえば、現在の成長率には、労働のストックが今のところ「蓄積可能」でないことのほかにも、別のボトルネックが効いている可能性は十分にある。また、AIが人間の労働を代替した直後に新たなボトルネックが現れるかもしれない。制度のような他の要因も成長にとって重要だが、この説明はそうした影響を考慮していない。
人間の働き手を代替するAIシステムが技術的に実現可能になれば、そのストックは非常に速く増えうる。論文では、将来の計算の価格が今日と同程度にとどまったとしても、AIの稼働にかかる計算コストが人間の脳の計算コストと同程度であれば、デジタルワーカーのストックが経済のなかで急速に拡大することを示す。直観的に言えば、AIの働き手が安ければ、追加の所得はデジタルワーカーの拡大に不釣り合いなほど多く費やされ、最先端経済の「実効的な働き手」のストックの成長率を2桁パーセントに押し上げる、ということである。
しかし、人間の労働を適切に代替できるAIシステムの稼働にかかる計算コストについては、大きな不確実性がある。必要な計算処理能力が非常に不確かであり、ロボットのハードウェアなどの追加コストがどの程度になるかもはっきりしないからだ。さらに、計算用ハードウェアの需要拡大による価格効果で価格が上がる可能性もある。ただし、計算用ハードウェアの技術的な改善も、ほぼ確実に大幅な値下がりをもたらすだろう。
AIによる自動化は、タスクの100%を自動化しなくても、経済的な産出を大きく押し上げる可能性がある。自動化が10年未満のような短期間で急速に進む場合は特にそうである。人間の投入が依然として必要となる大きな「ボトルネック」があっても、急速な自動化は短期的な成長の急増、すなわち「爆発的成長」と呼ばれるものにつながりうることを、このモデルは示唆している。
この議論がどれほど強いかははっきりしない。AIが自動化するタスクでどれほど生産性が高くなるかは、かなり不確かである。労働を置き換えるタスクで、AIシステムは多くの面（情報へのアクセス、処理速度、学習能力など）で人間を超えるかもしれないが、そうした優位からどれほどの経済的利益が得られるかは、現時点ではわからない。さらに、この自動化にかかる期間が長引けば、AIによる自動化の影響は時間的に分散される。最後に、AIが実際に自動化できるタスクの割合が、その水準の経済成長を引き起こすほど大きくないかもしれない。
AIによる爆発的成長が起こらないかもしれない理由
規制としては、大規模な学習実行の制限、認証を受けていないAIシステムに特定のタスクを行わせることの禁止、データへのアクセスの制限などが考えられる。AI開発でスケーリング則が果たす役割を考えると、規制がAIの経済的影響を妨げうるという反論はかなり信憑性を増す。スケーリング則は、AIの性能が学習データの量と計算資源の量に応じて伸びることを強調している。大規模な学習実行は物理的な痕跡を残すので、それを制限することは実効性を持ちうる。知的財産法が制限的に解釈されれば、データへのアクセスとAI開発への誘因が抑えられるかもしれない。全体として、必要な資源の規模が大きいことから、AI開発は多くの技術よりも規制しやすい。このことは、適切な規制体制によってAIシステムの急速な進歩を大幅に遅らせたり、止めたりさえできるという考えに信憑性を与える。
しかし、規制はAIの開発・導入のペースを遅らせうるとしても、それを無期限に止めることはありそうにない。AIがもたらしうる経済的・戦略的な利益は、各国政府にその進歩を促す強力で持続的な誘因を与える。アルゴリズムの継続的な進歩とハードウェアの効率向上によって、AIシステムの学習は時間とともに安くなり、AIを開発・導入できる主体の範囲も広がって、規制による制限は骨抜きになっていく。規制上の障害が生じることはあっても、AIを前進させる力を完全に止めるのは難しいだろう。
産出を大きく押し上げうる技術を規制してきた歴史上の記録は限られている。そのような変革的な技術は、これまでほとんど開発されてこなかったからだ。最も近い類例としては、新石器革命と産業革命の時期に導入された一群の技術が考えられる。これらの技術を、単に遅らせるだけでなくその効果を大幅に弱めるような形で効果的に規制できたことを示す説得力のある証拠はほとんどない。したがって、規制はAIの経済的影響を遅らせるかもしれないが、AIによる自動化がもたらす大きな成長の加速を防ぐほど、その効果を時間的に分散させることはありそうにない。
今日、ますます有能なAIシステムを開発するには、ますます多くの計算資源とデータが必要になることが多い。経済の多数のタスクを自動化できる高度なAIシステムの開発には、徐々にしか蓄積できない、まさに膨大な量の計算資源とデータが必要になるかもしれない。もしそうなら、自動化は漸進的でゆっくりとしたものになりうる。徐々にしか積み上がらないなら、AIが経済を完全に自動化するにはかなりの時間がかかる。その経済的影響は時間的に分散され、成長と技術変化が突然加速する可能性は低くなる。
しかし、AIが経済的影響を持ちはじめる時点と完全自動化との間に、計算資源やデータの大きな隔たりがあるという考えを、既存の分析は支持していない。既存の推定によれば、ありうる最大の隔たりは計算量で約10桁である。これは膨大な量だが、ハードウェアの拡大と効率の改善によって40年未満で越えられる可能性がある。そして単純なモデルによれば、40年にわたって大幅な自動化が起これば、それはおそらく大きく加速した成長を生む。
第二に、自動化に40年以上かかるとしても、生産に大きな経済的ボトルネックがある世界では、最後に自動化されるタスクが経済的な産出を大きく押し上げるだろう。したがって、完全自動化が可能でありながら爆発的成長につながらないシナリオは考えにくい。まとめると、技術の進歩が遅いかもしれないという議論は筋が通っていて説得力もあるが、AIによる爆発的な経済成長を防ぐ可能性は低いと考えられる。
AIシステムを方向づけて制御し、有害な振る舞いを避けることの難しさが、AIによる成長効果を抑えるかもしれない。アラインメントが特に難しければ、民間の主体がAIシステムを大規模に導入する誘因が弱まり、AIの経済的影響が限られるだろう。ミスアラインメントがあれば、意思決定に人間が関与する必要が生じるかもしれない。AIシステムが誤った事実やハルシネーションによる事実を示したり、意図的に欺いたりするなら、人間による監督が必要になるかもしれない。
そうであれば、AIのミスアラインメントは、人間の監督なしで自動化しても経済的に割に合うタスクの割合に、実質的な上限を設けるものだと単純に考えられる。これは単に、AIシステムが自動化に使われるタスクを実質的に制限するものと考えればよい。一部のタスクを自動化できないことが、AIによる成長効果を十分に抑えうるかどうかは、AIシステムが自動化に使われるタスクの正確な割合による。
アラインメントの問題のために大きな割合のタスク、たとえば25%を自動化できず、タスク間の補完性が高い（自動化されていないタスクが、自動化されたタスクの付加価値のボトルネックになる）場合、これによって爆発的成長が妨げられることは十分にありうる。アラインメントの問題が、AIシステムの経済的役割をそこまで小さくするほど難しくなるかどうかは、現時点でははっきりしない。さらに、AIのアラインメントに現在苦労しているからといって、それが実現不可能だということには必ずしもならない。そうした問題がAIシステムから経済的価値を引き出す能力を損なう世界では、その解決におそらく多大な努力が注がれるからだ。
AIが現在の労働のボトルネックを解消したとしても、他の生産要素（エネルギーや土地など）が産出の成長を制限するかもしれない。これらの制約がすぐに効いてくれば、AIによる成長は爆発的な水準に達する前に断ち切られるかもしれない。こうした制約は比較的すぐに効いてくる可能性もある。農業革命のときのような歴史上の成長の加速も、おそらくそれほど長くは続かなかった。だとすれば、AIによる成長の加速は、始まってほとんどすぐに止まってしまうと予想すべきなのかもしれない。
資源の制約はいずれ必ず効いてくるので、この議論の何らかの形は理論的に妥当である。重要な問いは、それが爆発的成長を防ぐほど早く、そして規模に関する収穫逓増を相殺するほど強く効くかどうかである。
しかし、土地やエネルギーの制約、資本を積み上げられる速さから来る限界といった主要な例を見ると、この議論はうまくいかないように思える。たとえば、エネルギー消費は1,000倍に拡大でき、およそ100倍の土地を都市化できる。資源ははるかに効率よく使えるので（特にそうすることで経済の大きな加速が可能になるならなおさら）、こうした制約はたいてい、拡大の余地を十分に残しているように見える。過去の加速が比較的すぐに阻まれた「基準率」に基づけばこの議論はもっともらしいが、土地やエネルギーの制約といった個別の事例を評価すると説得力は弱まる、というのが私たちの結論である。
他のボトルネックが効かないとしても、研究開発の進歩の収穫逓減が爆発的成長を阻むほど厳しいかもしれない。研究開発の収穫が急激に逓減するなら、主要な経済的投入物のすべてが拡大可能になっても、成長は急速には加速しないだろう。
この前提がもっともらしいかどうかを判断する証拠は限られている。おそらく現存する最良の推定によれば、収穫逓減の度合いはまったく十分に急ではなさそうである。つまり、経済的な投入と産出の間のフィードバックは、成長を加速させるのに十分すぎるほど緊密である。
さらに、仮にこの前提が正しいとしても、この議論だけで爆発的成長が排除されるとは限らない。たとえば、AIの働き手のストックは、いったん開発されれば非常に速く増えうるので、経済に加わる働き手の収穫が逓減するとしても、速い経済成長が生じる可能性がある。前提を支える実証的な裏づけが弱く、別の成長の仕組みも存在することから、これは爆発的成長への反論としては比較的説得力に欠ける。予想外の研究開発上の難しさが、爆発的成長を阻む決定的な要因になることは非常に考えにくいように思える。
人間が作った財を人々が好むことから生じるボトルネック、AIの貢献が誤って測定されて生産性統計に現れないこと、根本的な物理的限界など、さらなる議論は報告書の全文で検討している。
結論
この研究では、爆発的成長仮説への十数個の反論と、それを支持するいくつかの議論を評価した。AIによる爆発的な経済成長への賛否の議論を検討した結果、今世紀末までに爆発的成長が起こる確率はほぼ五分五分だと結論づけた。
爆発的成長を支持する最も強い議論だと私たちが考えるのは、経済成長に関する現在の最良のモデルを自動化にそのまま当てはめることである。すなわち、AIが科学の発展に貢献できるなら、AIは自らの能力を高めるハードウェアとソフトウェアの発見をもたらし、人類史の大半にわたって成り立っていたとも言える双曲的成長のサイクルを復活させる、という議論だ。結論が成り立つために、この議論が隙のないものである必要はない。AIが技術の成長の加速に貢献しなくても、あるいはAIが経済的に有用なタスクのすべてを自動化しなくても、爆発的成長が起こる可能性はある。
爆発的成長に反対する最も強い議論だと私たちが考えるのは、規制によって変化の加速に歯止めがかかる可能性、自動化の過程に1世紀以上かかる可能性、そしてAIシステムを利用者の意図に沿わせる（アラインメントの）難しさである。また、私たちが考慮しなかった何らかの要因によって成長が予想外に制約される可能性や、研究開発の収穫逓減が予想より厳しい可能性も認める。
これらの議論を整理すると、高度なAIによって可能になるような自動化が今世紀中に30%以上の成長率、すなわち現代の最先端経済の成長率の10倍をもたらす確率は、おそらく五分五分をわずかに上回る程度だろう。
このテーマについて成長経済学者による先行研究がないことは、注意点であると同時に好機でもある。議論がまだ十分に成熟していないことを意味するが、同時に、学術的な関心がもっと緊急に必要であることも示している。私たちは、今後の研究に向けた重要な未解決問題をいくつか示した。労働と資本以外の物理的なボトルネック、学習・情報処理・協調などにおける超人的な能力の経済的価値、ありうる自動化の時間軸などである。ここで理解を深めれば、AIによる爆発的成長の可能性を大きく明らかにできるだろう。