AGIは賃金を生存水準より下に押し下げうる

Gradient Updates は著者個人の見解を述べるニュースレターで、Epoch AI 全体の見解とは限りません。

歴史的に、自動化が大量失業と賃金の低下をもたらすのではないかと多くの人が恐れてきた。だが過去2世紀、自動化が大きく進むなかでも、平均賃金は上がり、生活水準は向上し、多くの人が予想したように高い失業率が長く続く問題になることもなかった。この歴史的なパターンから、ほとんどの経済学者は次のような楽観的な見方をとるようになった。自動化はたいてい、奪う機会と少なくとも同じだけの機会を生み出し、賃金への全体的な影響はプラスである、と。

だが汎用人工知能（AGI）は、こうした歴史的な前例に当てはまらないかもしれない。ここではAGIを、あらゆる労働タスクで人間の労働者の代わりを機能的に果たせる技術と定義する。過去の技術はたいてい、産業内の特定のタスクを自動化するものだった。それとは違い、AGIは物理的なタスクや、将来生まれうるあらゆる新しいタスクも含め、仕事の全領域で人間の労働に取って代わる可能性がある。そのため、AGIはかつてない形で労働市場を揺るがすかもしれない。

実際、AGIの開発が人間の賃金を生存水準より下に押し下げうることには、単純な論拠がある。生存水準とは、人間が生きていくのに最低限必要な水準のことだ。この議論によれば、生産に不可欠でありながら希少で、投資によってすぐには増やせない生産要素があるなら、その制約が労働の限界生産性を押し下げる。やがて賃金は、労働を維持する費用をかろうじてまかなえるところまで下がりうる。AGIが労働を完全に代替できるなら、この最低限の維持費用は、おそらく人間が生きていくのに必要な水準を下回るだろう。

この議論が具体的にどう展開するかは、時間軸によって変わる。短期的には、AGIを増やすほうが従来の物的資本を蓄積するよりはるかに容易だと分かるかもしれない。そうなれば物的資本が希少な要素となり、生産性を制約して賃金を押し下げる。とはいえ、技術の進歩が労働の生産性を高めてこの効果を打ち消し、賃金が横ばいを保つか、上がりさえする可能性もそれなりにある。しかし長期的には、技術の進歩のペースはおそらく鈍り、賃金を高く保つのはだんだん難しくなる。その段階では、主な制約は土地やエネルギーのような根本的な資源、つまり投資では増やせない不可欠な投入物になるだろう。このため、長期的には人間の賃金が生存水準を下回ることは十分にありうる。

こうした議論をふまえて、私は、人間の賃金が20年以内に生存水準を下回るまで暴落する確率はおよそ3分の1、今後100年以内に生存水準を下回る確率は3分の2程度だと見ている。

注：本稿が扱うのは、人間の厚生ではなく、人間の賃金に対するAGIの影響である。賃金が生存水準を下回っても、AGI後に人間が高い生活の質を保つことはありうる点に留意してほしい。配当、政府による福祉、慈善といった別の収入源で暮らしを支えられるからだ。したがって私は、AGI後に人間が飢え死にすると主張しているのではない。

AGI後に賃金が下がりうる理由

ここでは、AGIによって人間の賃金が生存水準を下回ることは十分にありうると示す単純な議論を紹介する。完全に隙のない議論ではない。この議論は収穫逓減の概念に基づくが、完全なかたちで理解するには、生産における規模に関する収穫逓減の理解が必要になる。

この議論を説明するため、標準的なコブ・ダグラス型生産関数を考えよう。次の形をとる。

Y (L, K) = A L^{a} K^{b}

with a > 0, b > 0, and a + b \leq 1

ここで $Y$ はGDP、 $A$ は生産性（または技術）の水準、 $L$ と $K$ は生産要素で、それぞれ労働と資本を表す。

この関数が賃金を理解するのに役立つのは、競争的な市場で賃金がどう決まるかに関係している。要するに、広く受け入れられている経済モデルによれば、外部性がなければ、賃金は労働の限界生産物、つまり労働を1単位増やしたときに追加で生まれる産出量に等しくなるはずである。

労働者に支払われる賃金は、次のように産出量を労働で偏微分すれば求められる。

\frac{\partial Y}{\partial L} = a A L^{a - 1} K^{b}

この式から、賃金を上げる道がいくつかあることが分かる。たとえば技術を進歩させれば、つまりパラメータ $A$ を大きくすれば、賃金は上がる。資本ストック $K$ を増やすことでも、労働者が産出に使える道具が増えるので、賃金を上げられる。だが、賃金は $K^{b}$ に比例するので、この方法には収穫逓減があることも分かる。 $0 < b < 1$ のとき、この関係は、資本が多いほど、資本の追加による賃金の上昇幅が小さくなることを意味する。

次に、式のもう一つの部分 $L^{a - 1}$ を考えよう。 $0 < a < 1$ のとき、賃金は労働供給について単調に減少するはずである。以下に、まったくの架空の数値を使って、それがどんな形になりうるかの例を示した。

この性質は、ほかの条件が同じなら、経済に労働を追加すると賃金が下がることを意味する。これが重要なのは、AGIが人間の労働を完全に代替できるなら、AGIを大規模に展開することは、労働供給 $L$ を大幅に増やすのと同じになるからだ。その結果、労働の限界生産性が下がり、賃金が押し下げられる。したがって、この効果が資本の増加や技術の進歩によって同程度に相殺されない限り、このモデルではAGIによる労働力の拡大は賃金を下げる。

AGIを従来の物的資本よりはるかに速いペースで増やせるなら、この結果は十分にありうると私は考える。AGIはコンピュータやロボットのハードウェア上で動くソフトウェアとして存在するので、その数は少なくとも新しいハードウェアを製造できるのと同じ速さで増やせる。そうなれば経済はたちまちAGIで飽和し、労働市場には有能な労働者があふれるだろう。工場、道路など、労働の生産性を高める物的インフラが同じくらい大規模に拡大しなければ、労働の限界生産性は急落する。そうなれば、人間の賃金は暴落するだろう。

この議論の核心は、資本が生産のボトルネックになりうるという考え方である。労働供給が資本よりはるかに速く増えれば、従来型の資本が限られていることが全体の生産性を制約する。これは生産関数に収穫逓減があるためだ。ほかの不可欠な資源を同じだけ増やさずに労働者を増やすと、追加の労働者1人が全体の産出に貢献する分は小さくなる。その結果、労働の限界生産性が下がり、賃金が下がる。

従来の物的資本はAGIよりはるかに増やしにくいかもしれない、という主張を裏づけるには、AGIを支えるハードウェアより増やすのが難しいと思われる物的資本が数多くあることを挙げればよい。たとえば米国の鉄道網を2倍にするのはとてつもない難事業で、大がかりな計画と時間のかかる許認可手続きが必要になる。対照的に、FLOP で測った世界の計算資源の供給は、数年ごとに当たり前のように倍増している。

こうした制約から大まかに言えるのは、AGIを広く展開できるようになれば、その数は急速に増え、既存の物的インフラをすぐに飽和させるだろうということだ。このように労働供給が急拡大すれば、人間の労働の限界生産性が下がり、短期間で賃金が大きく削られる可能性がある。

とはいえ、いま示した議論は大ざっぱで、誤解を招くおそれもある。現実の世界では、AGIの展開は生産関数の労働投入 $L$ を増やすだけではない。むしろ、労働・資本・技術の三つの要素がそろって伸びる可能性が高い。たとえばAGIは物的インフラをより速く建設する助けになりうるし、人間の研究者の代わりを務めて技術の進歩を加速させることもできる。こうした効果は、AGIが賃金に与える負の効果を打ち消すだろう。

したがって、人間の賃金の行方を十分に理解するには、複数の生産要素を同時に増やせる場合に一般化した議論を検討するのが有益である。この一般的な議論は、規模に関する収穫という概念に基づく。

規模に関する収穫

規模に関する収穫とは、すべての生産要素を同時に同じ割合で増やしたとき、総産出量がどう反応するかを表すものである。先ほどの生産関数を思い出そう。

Y (L, K) = A L^{a} K^{b}

この収穫の性質は、指数の和 $a + b$ と直接に関係している。

指数の和がちょうど1なら、経済は規模に関して収穫一定となる。つまり、労働と資本を同じ割合で増やすと、産出量もちょうど同じ割合で増える。労働と資本の初期水準には左右されない。この性質は次の式で表せる。

Y (c L, cK) = c Y (L, K)

たとえば労働と資本をともに10%増やせば、総産出量もちょうど10%増える。これは最初の経済の規模が大きくても小さくても成り立つ。この場合、すべての生産要素を同時に増やせば、賃金は一定に保たれる。

この仮定の直観は、複製の議論で理解できる。経済のあらゆる面を完全に複製したらどうなるかを想像してみよう。すべての労働者、すべての道具、すべての機械、すべての土地、あらゆるものを複製し、宇宙にまったく同じ地球が二つあるようにするのだ。この複製が本当に正確なら、二つの経済の総産出量は以前の2倍になる。このことは、すべての生産要素をそろって増やせる限り、経済は規模に関して収穫一定を示すはずだという考えを支持する。

しかし指数の和が1未満なら、経済は規模に関して収穫逓減となる。つまり労働と資本を同時に同じ割合で増やしても、総産出量はその割合ほどには増えない。言い換えれば、労働と資本をともに2倍にしても、総産出量は2倍に届かない。

一見すると、この可能性は直観に反するように思えるかもしれない。複製の議論によれば、経済はもともと規模に関して収穫一定を示すはずだからだ。では、現実に規模に関する収穫逓減が起こりうるのはなぜか。

主な理由は、資本への投資を増やしたり新しい労働者を生み出したりするだけでは増やせない生産要素がほかにもあることだ。土地はその一例だが、実際には、生産を制約する希少で蓄積できない資源ならなんでもよい。規模に関する収穫逓減を示すため、土地（ $W$ ）を追加の投入物として含む、より一般的な生産関数を考えよう。

Y (L, K, W) = A L^{a} K^{b} W^{c}

ここで $a + b + c = 1$ とし、すべての要素について規模に関して収穫一定となるようにする（ここでは $a$ 、 $b$ 、 $c > 0$ と仮定する）。

この定式化では、労働・資本・土地の三つの投入物をそろって増やせるとき、経済は規模に関して収穫一定となる。しかし仮定により、土地は投資では増やせないので、時間がたっても一定の水準にとどまる。この制約の結果、生産関数は次のように簡単にできる。

Y (L, K) = (A \cdot C) L^{a} K^{b}

ここで $C$ は $W^{c}$ を表す定数である。指数 a と b の和は1未満なので、この生産関数は労働と資本の両方について規模に関して収穫逓減となる。言い換えれば、労働と資本が増えても、その生産性は土地の供給が一定であることに制約され、産出量は同じ割合では増えない。

このシナリオでは、労働と資本を同時に増やすと賃金は下がる。

このシナリオは現実的だろうか。実は、現実的である。産業革命以前の何千年ものあいだ、耕作に適した土地は希少だった。つまり人口が増えると、農業の生産性は収穫逓減に直面した。技術の進歩は遅すぎて土地の生産性の低下を打ち消せなかったので、賃金は必然的に生存水準まで下がり、ほとんどの人が極度の貧困から抜け出せなかった。この経済の特徴はマルサス的な力学だった。

当面は楽観できる理由

産業革命以前の世界経済は、マルサス的な力学に特徴づけられていた。この歴史的な前例からは、同じような力が将来ふたたび現れうることがうかがえる。先に述べたように、これはAGIが急速に増える一方で、物的資本が生産のボトルネックになるという形をとりうる。このシナリオでは、AGIによる労働の供給が、生産的な仕事に必要なインフラを上回り、人間の賃金がふたたび下がりうる。

しかし、この歴史的な前例だけに注目すると、産業革命後に起きたことを見落とす。産業革命は、こうした力学からの根本的な断絶だった。産業革命の後、イノベーションの速さは増し、やがて人口増加を上回った。これによって、労働の限界生産性が持続的に上がった。その結果、賃金は生存水準を上回り、歴史上初めて生活水準が持続的に向上した。

この産業革命後の傾向を単純に将来へ延ばすと、経済にAGIを導入すればイノベーションはさらに速いペースで進み、AGIが賃金に与える負の影響を補って余りあることになる。物的資本の希少性はなお生産を制約するかもしれないが、技術の進歩の加速がその効果を上回りうる。この単純な見通しのもとでは、楽観的なシナリオが浮かび上がる。AGIによるイノベーションが労働の生産性を劇的に高め、最終的に人間の賃金を押し下げるどころか押し上げるかもしれない、というものだ。

この楽観的な見通しは、短期的には十分にありうるし、AGIが広く展開された後も含めて、おそらく何年も続くと私は考えている。しかし、それがいつまでも続くとは思わない。長期的には、やはり人間の賃金が下がり、最終的には生存水準を下回る可能性のほうが高いように思われる。

賃金についての長期的な悲観

結局のところ、AGIがイノベーションによって賃金を恒久的に押し上げるという考えは、次の事実によって根本から崩される。技術革新には限界があるのだ。言い換えれば、技術の進歩がどこまで進めるかには、絶対的な物理的制約による上限がある。誤解のないように言っておくと、私たちがいまこの限界に近づいていると言いたいのではない。むしろ、限界はまだはるか先だと考えている。私が言いたいのは、こうした制約があるために、一定の速さでイノベーションを永遠に続ける、つまりモデルの生産性パラメータ $A$ を永遠に伸ばし続けることは、どうしてもできないということだ。

この限界を示すため、今後3万年にわたって、年わずか1%というささやかな生産性の伸びを保った場合を考えてみよう。生産性はおよそ $1 0^{129}$ 倍という途方もない大きさになる。これは観測可能な宇宙にある原子の数をはるかに上回る。これほどの生産性の向上は、その期間に物理的に何が可能かについての私たちの基本的な直観に反するだろう。こうした直観が根本から誤っているのでない限り、そんなことを成し遂げられる見込みは低い。

技術革新には本来限界があるので、二つの局面があると考えられる。

第一の局面は、技術の進歩の絶対的な物理的限界にまだほど遠いときで、経済は規模に関して収穫逓増となる。AGIと人間の数が増えるほどイノベーションが促され、それが経済の生産の効率を高めるからだ。この局面では、技術の進歩が十分に速く、賃金への正の効果が、土地やエネルギーといったほかの経済的制約による押し下げ圧力を上回るかもしれない。その結果、技術の進歩による効率の向上が続くことに支えられ、賃金は上がり続けうる。

しかし、イノベーションを続けていけば、やがて第二の局面、つまり技術の進歩の物理的限界に近づく局面に入る。この局面では、意味のある速さのイノベーションはもはや起こらなくなる。そうなると、蓄積できない生産要素がますます希少になることによる生産性の低下を打ち消すだけの技術の進歩は、もはやない。その結果、蓄積できない資源による制約は、産業革命以前の歴史的な経験と同じように働き、人口の増加が賃金を押し下げる。

この第二の局面の経済は、規模に関して収穫逓減として捉えるのが最も適切に思われる。蓄積できないが不可欠であり、投資では増やせない生産要素があるからだ。時間がたつにつれて、こうした生産要素は成長を締めつけ、実質的な人口規模が増えるにつれて労働の限界生産性は下がっていく。

この局面に入ると、AGIを増やし続ければ、AGIの労働と同時に資本を増やしても、賃金は縮んでいく。これが究極の物理的限界まで続けば、賃金は、労働者がかろうじて自らを維持できる最低の水準まで下がる。

人間の場合、この最低賃金は生物学的な生存水準で決まる。人間は生きていくのに一定量の食料やその他の必需品を必要とする。人間だけの経済では、この生存水準が、均衡で賃金がどこまで下がりうるかの自然な下限となる。賃金が生存水準を下回れば、労働者は飢え死にし、それに応じて労働供給が縮み、賃金は生存水準まで押し戻される。

しかし、AGIが人間の労働者を完全に代替できるなら、この賃金の下限はもはや人間の生存水準では決まらない。代わりに、最低限の労働費用はAGIが必要とするエネルギーで決まり、それは人間が必要とするエネルギーよりはるかに少ないかもしれない。

この点が重要なのは、AGIがやがて、人間と同じかそれ以下のエネルギー費用で動きながら人間の生産性を上回ると考える強い理由があるからだ。人間は、いまの経済環境で生産性を最大にするように進化したわけではない。人間は疲れるし、しばしば怠けるし、記憶力や集中力といった認知能力は、現代経済の典型的なタスクをこなすには最適とは言えない。したがって、生物よりエネルギー効率の高くないハードウェアで動くとしても、こうした制約のないAGIは、消費するエネルギー1単位あたりではるかに生産性が高くなるだろう。

この推論が正しければ、AGIの展開が続けば、いずれ人間の賃金は生存水準を下回る。つまり人間は、賃金だけでは生活できなくなる。

そうしたシナリオがどんなものかを示すため、太陽系の中で食料の栽培に使える土地が限られているために、食料が希少になる場合を想像してみよう。土地をなす資源は一般に、より多くのAGIを支えるコンピュータのハードウェアを動かすのに転用できる。そのため、AGIの数が十分に多くなれば土地の価格が押し上げられ、食料の栽培は高くつくようになる。そうなると、生身の人間は、労働で得る賃金だけで自分の食べる分の食料を買えるほど、1人あたりの生産性が高くないかもしれない。

このシナリオはかなり推測的に思えるかもしれないが、いずれ規模に関して収穫逓減になるという予測は、特定のシナリオに依存しているわけではない。この予測を導く主な仮定は、イノベーションには技術の進歩の厳しい物理的限界があることと、生産に不可欠な要素の一部が本質的に希少であることの二つにすぎない。いずれイノベーションが十分に難しくなれば、こうした蓄積できない生産のボトルネックが賃金を押し下げる力は、イノベーションが賃金を押し上げる力を上回る。

比較優位は私たちを救わない

論者がよく持ち出す反論の一つは、AGIが登場した後も人間は雇用を保てるというものだ。その理屈は、たとえAGIがあらゆるタスクで絶対優位をもっていても、人間は一部のタスクでAGIに対して比較優位をもち続ける、というものである。この反論は、AGIをめぐる経済的な懸念は労働塊の誤謬、つまり経済における仕事の数は決まっているという誤った思い込みから来ている、という主張と一緒に示されることが多い。

しかし、この反論は誤解を招くと私は考える。人間の賃金がどうなるかについての主張、つまりAGIは人間の賃金を押し下げられないという主張として解釈するなら、この反論は単純に誤りだと思われる。とくに比較優位の原理は、人間の賃金がどこまでも低くなること、たとえば自分が食べていけるだけのカロリーも買えない水準まで下がることとも、完全に両立する。

私の見るところ、問題の核心は、AGIの開発後に人間が何らかの形の雇用を見つけられるかどうかではなく、それなりに高い賃金が払われる仕事を確保できるかどうかである。なにしろ、どこまでも低い賃金や、まったくの無給を受け入れる人がいれば、仕事はいつでも簡単に「生み出せる」。しかし、機械に仕事を奪われた後も働く道は残っている、ただし賃金は食べ物も買えないほど低い、と言われて安心する人はほとんどいないだろう。比較優位の原理は、そうしたシナリオを排除しない。

この反論のどこが誤っていると私が考えるかを理解するには、まず比較優位という概念を理解する必要がある。経済学では、ある財を生産する機会費用がほかの主体より低いとき、その主体はその財の生産に比較優位をもつという。ここでいう機会費用とは、その財の生産における絶対的な能力の水準ではなく、その主体が別の財の生産に切り替えた場合に失われる生産の価値を指す。この区別が重要なのは、ある主体がほかの主体ほどその財を効率よく生産できなくても、その財の生産に比較優位をもちうるからだ。

比較優位の原理によれば、二者がそれぞれ比較優位のある分野に特化して互いに取引するほうが、取引をせずに各自で財を生産するよりも生産量は最大になる。これによって両者が得をするので、取引は互いに有益である。

だが比較優位の原理がいかに強力でも、この原理が示すのは、主体が比較優位のある分野に特化してほかの主体と取引すれば得をする、ということだけである。その取引による利益で、人間が稼いだ賃金で快適に暮らせることまでは示していない。将来の経済環境は、今日ふつうとされるものとはおそらく大きく違うだろう。ここで私が言いたいのは、比較優位の原理は、人間の賃金がいずれ生存水準を下回ることと完全に論理的に矛盾しない、ということにすぎない。

結論

すべてを考え合わせると、私は、2045年より前に人間の賃金が生存水準を下回るまで暴落する確率はおよそ3分の1ではないかと考えている。この数字を驚くほど高いと感じる人もいるだろうが、私自身はやや低めの数字だと思っている。AGI後も技術の進歩が人間の労働を補完し、近いうちに賃金が生存水準を下回るまで暴落するのを防ぐだろうという、私のひかえめな楽観がいくらか反映されているからだ。より長い目で見ると、2125年より前に人間の賃金が生存水準を下回る確率は3分の2程度だと見ている。

これらの予測には、AGIの開発後も人間の賃金を高く保ちうるほかの要因も反映している。たとえば、人間の労働を競争から守る規制や、将来の消費者が人間を雇うことそのものを好み、AGIが人間の労働の不完全な代替物にとどまる可能性である。

また短期的には、人々はAGIに統治や経営の意思決定を任せることをためらうだろうと私は考えている。そうしたシステムが完全に信頼でき安全だということに、広く疑いがもたれる可能性が高いからだ。そのため、人々がAGIを完全に信頼するようになるまでは、しばらく人間の労働の居場所が残るはずである。

ここで強調しておきたいのは、私が分析したのはAGIが人間の賃金に与える影響だけであり、人間の厚生全体に与える影響ではないということだ。人類の将来について悲観的な評価を示したばかりのように見えるかもしれないが、次の理由から、私の全体的な見立ては大筋で楽観的なままである。AGIの開発後も、人間は高い賃金ではなく、投資、政府による福祉、慈善といった別の収入源によって快適に暮らせるかもしれない。とくに後の二つは、AIのアラインメントによって人間の幸福への支援が続くことが保証されるなら、大いに期待できそうだ。

とはいえ、AGIが人間の厚生にどんな結果をもたらすかは、まだきわめて推測的である。実際、人間がいずれ収用や暴力的な革命によって富を失う可能性も排除すべきではない。そうなれば、AGIの開発は人間の厚生にとってマイナスになるかもしれない。私の分析が正しければ、将来の人間は賃金だけでは快適に生きていけるだけのお金を稼げないかもしれないからだ。