フロンティアAIモデルの学習計算量は年4〜5倍で伸びている

はじめに

過去10年間、最高水準のAIモデルの学習に投じられる計算資源は劇的に増えてきた。この戦略は驚くほど実りが大きく、汎用性と性能の大きな向上につながっている。たとえば私たちの推定では、過去10年の言語モデルの性能向上のおよそ3分の2は、モデルの規模の拡大によるものである。

規模拡大がこれほど中心的な役割を果たしている以上、モデルの学習に使われる計算資源（「計算量」）が近年どう伸びてきたかを追跡することは重要である。この短い記事では、前回の分析以降に3倍のデータを集めたうえで、これまでの傾向を更新して示す。

暫定的な結論として、近年の計算量の伸びは、現時点では年4〜5倍の増加と表すのが最も適切である。最近の注目すべきモデル、計算量で各時点の上位10に入るモデル、最近の大規模言語モデル、そして OpenAI、Google DeepMind、Meta AI が公開した上位モデルのあいだで、一貫した伸びが見られる。

未解決の不確実性もいくつかある。計算量の全体的な傾向が加速した可能性は排除できない。また、2018年ごろにフロンティアの伸びが鈍化した証拠も見つかっており、これが解釈を複雑にしている。2018年以降の最近のフロンティアの伸びは、年4倍の傾向と表すほうが適切である。さらに、注目すべき言語モデル全体ではずっと速い傾向が見られ、2017年6月から2024年5月にかけて年9倍もの速さで伸びている。ただし、言語モデルのフロンティアに注目すると、最大の言語モデルが2020年半ばごろにAI全体のフロンティアに追いついた後は、傾向が年約5倍のペースに鈍化している。

総合すると、注目すべきモデルとフロンティアモデルの計算量の最近の伸びは、年4〜5倍という数字で要約することを勧める。この数字は、ありうるボトルネックや加速要因といった追加の考慮事項を織り込む前の、将来の伸びについての見通しの基準値としても使うべきである。

学習計算量の全体的な伸びの傾向は続いている

私たちは以前にも、学習計算量の増加傾向を調べている。2022年には、注目すべき機械学習モデルの学習に使われる計算量が、2010年から2022年にかけて年約4倍で伸びてきたことを見いだした。¹ その後、注目すべきモデルが数多く公開され、私たちも計算量の推定値の数を3倍にしてデータベースを拡張した。² そこで、更新が必要になった。

要するに、注目すべきモデルの学習に使われる計算量は、2010年から2024年5月にかけて年約4.1倍（90%信頼区間：3.7倍〜4.6倍）で伸びてきたことが分かった。³ 2022年2月の前回の更新以降の傾向を見ると、学習計算量は年約4.4倍（90%信頼区間：1.5倍〜11.8倍）で伸びている（信頼区間が広いことに注意）。どちらの推定値も以前の推定値と整合しているので、傾向は続いていると考えられる。

補足すると、注目すべきモデルとは、私たちの注目度の基準を満たすモデルである。その基準とは、a) 引用数の多い論文（1000件超）で発表された、b) 広く認められたベンチマークで最高水準の結果を示した、c) 歴史的に重要である、d) 広く使われている製品に展開されている、のいずれかである。注目すべきモデルのデータベースは網羅的ではなく、欠けているモデルや、学習計算量の推定値を示せなかったモデルも多い。データの詳細はドキュメントを参照してほしい。

計算量の伸びの傾向が変化した可能性も調べた。成長率の離散的な加速、指数関数的な傾向の不連続な断絶、双曲線的な成長を検討した。その結果、いくつかの注意点はあるものの、どのモデルも単純な指数関数的成長より頑健に優れているとは言えなかった。⁴ 結局のところ、手元のデータから加速を排除することはできないが、この可能性をさらに調べることは本研究の範囲を超える。

フロンティアモデルの伸びは鈍化し、現在は全体の傾向と一致している

もちろん、私たちが最も関心をもつのは、フロンティアにある、またはその近くにあるモデルである。ここからは、公開時点で学習計算量の上位10に入っていたモデルに注目し、これをフロンティアモデルと呼ぶ。フロンティアモデルに見られる傾向は、モデル全体の最近の傾向と似ており、2010年から2024年5月にかけて年5.3倍（90%信頼区間：4.9倍〜5.7倍）で伸びている。

なお、前回の論文ではフロンティアモデルの定義が異なっていた。⁵ 現在は、学習計算量で各時点の上位10に入るモデルという、更新した、より単純なフロンティアモデルの定義のほうが望ましいと考えている。この新しい定義には、外れ値や計算量の少ないモデルの影響を受けにくいという利点があり、私たちが直感的にフロンティアモデルとみなすものともよく合うことが分かった。新しい定義は、ここで強調する結果にも影響する。新しい定義によるフロンティアモデルの傾向は、以前の定義によるものより目に見えて速いからだ。⁶ また、フロンティアモデルの傾向が、各時点の上位に何件のモデルを含めるかの選び方に左右されるかどうかも調べ、左右されないと結論づけた。⁷

次に、フロンティアモデルの傾向が時間とともに変化したかどうかという問題に移る。先行研究では、フロンティアモデルの伸びが減速したことを示唆する証拠がいくつか見つかっている。特に、2022年2月の私たちの論文では、2016年から2022年の期間に大規模モデルの成長率が低かったことを見いだした。⁸ より最近では、Lohn (2023) が Epoch のデータを分析し、2017年ごろ以降にフロンティアモデルの計算量の伸びが鈍化していることを見いだした。⁹

更新したフロンティアモデルの定義でも、同様の結果を再現できる。過去10年のどこかで伸びが鈍化したことを示す強い証拠が見つかった。ほかの表し方も可能だが、私たちはこの傾向を、2018年（80%信頼区間：2016年10月〜2019年8月）以降に年4.2倍（90%信頼区間：3.6倍〜4.9倍）に鈍化したと要約するのが望ましいと考える。図3を参照してほしい。¹⁰

この鈍化の原因を見極めるだけの情報はない。もっともらしい説明の一つは、2010年から2018年にかけては「計算資源の余剰（compute overhang）」の状態にあり、機械学習の実験は利用できる計算資源に比べて小規模だった、というものだ。開発者は深層学習の手法を規模拡大すれば良い結果が得られることに気づき、小さいながら急速に拡大するGPUクラスターを使って性能の向上を推し進めた。しかし、約1e22 FLOPを超えて伸ばすには大規模な専用クラスターとより優れたハードウェアが必要になり、そのため傾向は鈍化した。もっとも、この説明に確信はない。

なお、この傾向を導くにあたっては、AlphaGo Master と AlphaGo Zero という計算量の外れ値を二つ除外した。これらは現代の機械学習の典型例ではない。集中的な強化学習の過程で学習されたゲームプレイのシステムであり、学習計算量の大半はデータを生成するためのゲームのシミュレーションに使われた。これらを含めると、この二つだけでフロンティアモデルの計算量の傾向がゆがみ、その公開前には伸びが速く、公開後には遅いように見えてしまう。具体的には、AlphaGo のモデルを含めると、最もよく当てはまるのは、2018年（90%信頼区間：2016年12月〜2018年1月）に離散的な鈍化があり、最近の成長率が年3.3倍（90%信頼区間：2.8倍〜4.1倍）となるモデルになる。

私たちの結論は、近年のフロンティアの伸びは年4倍の伸びと表すのが最も適切だというものだ。ただし、この解釈に確信はない。不連続な成長を認めるかどうかや、計算量の外れ値を除外するかどうかなど、多くの選択によって傾向が変わるからだ。

言語モデルは2020年ごろにフロンティアに追いついた

現在、最も注目すべきモデルは言語モデル（GPT-4 のようなマルチモーダルモデルを含む）である。近年、生成言語モデルは大きく進歩しており、ChatGPT のような最も成功したアプリケーションのいくつかを支えている。

それ以前のデータは乏しいため、2017年6月のTransformerの公開以降のモデル（公開時のものを含む）に注目する。¹¹ 注目すべき言語モデルの傾向は、注目すべきモデル全体よりも目に見えて速く、2017年6月から2024年5月にかけて年9.5倍（90%信頼区間：7.4倍〜12.2倍）で伸びている。中心推定値は注目すべきモデル全体の傾向のほぼ2倍の速さだが、不確実性は大きい。

この速い伸びの傾向は、言語モデルが低い水準から出発し、人気を得てから分野のフロンティアへと駆け上がり、フロンティアに達すると減速したことを反映しているのかもしれない。計算量で各時点の上位10に入る言語モデルを調べたところ、2020年半ばごろ（90%信頼区間：2019年4月〜2021年12月）、つまり GPT-3 の公開に近い時期に減速した証拠が見つかった。減速後から2024年5月までの伸びは年約5.0倍（90%信頼区間：3.1倍〜7.3倍）で、フロンティアモデル全体の傾向と同程度である（図4を参照）。

暫定的な結論として、言語モデルのフロンティアの伸びは、言語モデルがAIのフロンティアに追いついた2020年ごろに鈍化した後、近年は年5倍の伸びと表すことができる。ただし、証拠は年7倍までのより速い伸びとも整合する。そちらのほうが、2017年6月のTransformerの公開以降の注目すべき言語モデル全体の傾向とよりよく合致する。

主要企業は上位モデルの規模を年5倍で拡大している

AI開発が集中していることを考えると、主要企業の規模拡大の戦略を分析することにも意味がある。ここでは OpenAI、Google DeepMind、Meta AI に注目する。現在最大のモデル3つのうち2つを、この注目すべき3社が占めている。¹²

OpenAI、Google DeepMind、Meta AI の規模拡大は、いずれもおおむね分野全体に沿っている。上位モデルの規模は、それぞれ2017年8月から2024年5月にかけて年5倍（90%信頼区間：3倍〜10倍）、2012年7月から2024年5月にかけて年5倍（90%信頼区間：4倍〜6倍）、2015年7月から2024年5月にかけて年7倍（90%信頼区間：5倍〜10倍）で増えている（信頼区間が広いことに注意）。このことから、年5倍という数字は個々の企業にも当てはまるのかもしれない。¹⁴

Google DeepMind は最近、これまでで最大級の言語モデルの一つである Gemini Ultra を発表した。これは、同社の上位モデルの規模拡大が加速した可能性を示しているのかもしれない。この可能性を調べたが、決定的な証拠は見つからなかった。¹⁵ 言い換えれば、Gemini Ultra のようなモデルを可能にした Google での最近の学習計算量の急増は、同社の過去の傾向と合致している。

現在の最大モデルの規模は、年4〜5倍の成長率で後ろ向きに予測できる

結局のところ、私たちが計算量の伸びに関心をもつのは、フロンティアの今後の伸びを予測する手がかりになるかぎりでのことである。学習計算量の推定値がある現在の最大のモデルは GPT-4 と Gemini Ultra で、私たちのチームの推定では、それぞれ2e25 FLOPと5e25 FLOPで学習された。

前の節で見いだした年4〜5倍の成長率で、これらのモデルの規模を後ろ向きに予測するとどうなるか。この10年の初めの最大のモデルは OpenAI の GPT-3 175B（davinci）で、3e23 FLOPで学習され、2020年5月下旬に公開された。そこから年4倍の計算量の伸びを外挿すると、GPT-4 の公開時期である2023年3月までに最大のモデルは1e25 FLOP、Gemini Ultra の公開時期である2023年12月までに4e25 FLOPになると予測される。2020年以前のフロンティアモデルに近い年5倍の傾向を使っていたなら、2023年3月までに3e25 FLOP、2023年12月までに8e25 FLOPと推定していただろう。これらの推定値は Gemini Ultra の実際の学習計算量に近いので、最近の傾向を正確に表していると考えられる（図6を参照）。

GPT-3 の公開以前のデータだけに限っていたら、どうなっていただろうか。2010年から2020年6月までに公開された注目すべきモデルの計算量の全体的な伸びの傾向は年3.2倍（90%信頼区間：2.7倍〜3.8倍）で、フロンティアモデルでは年6.9倍（90%信頼区間：5.9倍〜8.0倍）だった。したがって、同様の手法をとっていれば、年3倍から7倍の成長率を使うことになり、その結果、予測の不確実性はかなり大きくなっていただろう。それでも、この予測は GPT-4 と Gemini Ultra の学習計算量とそれなりに整合していたはずである。

結論

この記事では、計算量の伸びの傾向をさまざまな方法で検討した。特に、2010年から2024年5月までの注目すべきモデル、フロンティアのモデル、OpenAI・Meta・Google DeepMind が公開した上位モデルについて、そして現在の最大のモデルの規模を後ろ向きに予測した場合に、年4〜5倍の成長率を見いだした。

結局のところ、年4〜5倍という成長率は複数の方法で導けることから、これは最近の傾向を正確に表しており、新たなボトルネックや大きなブレークスルーがないかぎり、近い将来も続く可能性が高いと考える。

さらに、過去10年のフロンティアの伸びに鈍化があることも確認した。しかし、計算量のフロンティアにあるモデルについて、伸びが遅くなった証拠は見られない。年4〜5倍は、フロンティアの最近の伸びを表す数字としても妥当だと考える（ただし、こちらについては確信度が低い）。

言語モデルについては、全体として年9倍に達するずっと速い成長率が見られた。だが、この急速な伸びは、この分野がAIのフロンティアに追いついたことで説明するほうが適切だと私たちは主張する。2020年半ば以降のフロンティアの言語モデルを見ると、成長率は4〜5倍である。

今後調べる予定の問いはほかにもたくさんある。この記事では、成長率の離散的な加速の可能性を論じた。前回の論文で述べたように、より長い歴史的な視点をとると、計算量の伸びは2010年の前後でも大きく変わる。このことから、成長が時間とともに滑らかに加速している可能性も考えられる。この可能性は今後の研究でさらに調べる。

また、データの不足、投資意欲、データセンターへの電力供給の制約、チップ生産を拡大できないことといった障害によって、計算量の傾向が鈍化するかどうかも調べている。これらのテーマについての研究を、今後数か月のうちに公開していく予定である。

それまでのあいだ、注目すべきモデルとフロンティアモデルの計算量の最近の伸びは、年4〜5倍という数字で要約することを勧める。この数字は、ありうるボトルネックや加速要因といった追加の考慮事項を織り込む前の、将来の伸びについての見通しの基準値としても使うべきである。¹⁶

計算量は、AIの幅広い能力を予測するうえで私たちがもつ最良の指標であり、その伸びを追跡することはAIの行く末を予測するうえで欠かせない。この記事は、この重要なテーマについて最新の見方を示し、近年も鈍化していない成長の傾向を論じた。

コメントと議論をいただいた David Owen、Tim Fist、Mauricio Baker、Tamay Besiroglu、Markus Anderljung、Ben Cottier、Ege Erdil に感謝する。

また、Epoch のデータチームの尽力、とりわけ本研究の土台となるデータ収集に取り組んだ Robi Rahman と Josh You に深く感謝する。この記事のグラフを引き立てるビジュアルデザインを手がけた Robert Sandler にも感謝する。

付録

付録1：計算量の傾向のモデル選択

この付録では、計算量の伸びの傾向をモデル化するためのモデル選択の結果を示す。単純な指数関数、折れ曲がりのある指数関数、不連続な指数関数、および双曲線的成長のモデルを当てはめた。

報告する主なモデル選択の指標は、ベイズ情報量規準（BIC）のスコアと、10分割交差検証の平均二乗誤差（MSE）である。また、各モデルが単純な指数関数モデルよりよく当てはまるかどうかを評価するカイ二乗検定の結果も含める。あわせて、（区分的な）指数関数モデルの傾きと屈曲点も報告する。

報告する各指標の80%信頼区間の分位点は、標本を1000回ブートストラップして求めた。また、各ブートストラップ標本における、各モデルと単純な指数関数モデルとのBICの差の分布も報告する。あわせて、そのモデルが単純な指数関数より選ばれた標本の割合（%）も報告する。

区分的なモデルを当てはめる際には、BICを最小にする屈曲点を選ぶ。また、一つの区間のデータ点が10未満になるような屈曲点は除外する。これは結果を安定させるのに役立つ。

双曲線モデルを当てはめる際、ブートストラップ標本によっては、所定のステップ数以内に双曲線を当てはめられずにエラーになることがあった。これは、すべての分析を通じて1000標本あたり5回未満だった。こうした当てはめの失敗は破棄している。

注目すべきモデル

どのモデルも単純な指数関数モデルより頑健に優れているとは言えないが、多くのブートストラップ標本では双曲線モデルが選ばれている。表A1を参照。

表A1：2010年から2024年5月までの注目すべきモデルについてのモデル選択の実験。

モデル	BIC	BIC 90%信頼区間	BIC スコア差	BIC スコア差の90%信頼区間	X²	単純モデルより 選ばれた割合	K分割平均MSE	K分割平均MSE 90%信頼区間	直近の傾き（年N倍）	直近の傾き 90%信頼区間	屈曲点	屈曲点 90%信頼区間
単純	1351.86	[1307.89, 1389.95]	0.00	[0.00, 0.00]	NaN	0%	3.27	[2.85, 3.66]	4.14	[3.67, 4.62]	NaN	NaN
離散的な加速	1358.09	[1307.72, 1387.93]	6.23	[-10.2, 8.44]	0.0107	42%	3.27	[2.83, 3.62]	5.55	[3.90, 107494]	2018-12	[2013-11, 2023-10]
不連続	1361.33	[1307.2, 1388.26]	9.47	[-13.09, 8.96]	0.0081	46%	3.28	[2.81, 3.66]	4.58	[2.43, 1.62e8]	2018-12	[2013-04, 2023-10]
双曲線	1354.54	[1309.43, 1391.87]	2.68	[-4.28, 8.55]	0.077	24%	3.24	[2.82, 3.62]	NaN	NaN	NaN	NaN

フロンティアモデル（上位10）

離散的な加速か、指数関数の不連続な断絶のいずれかを認めるモデルが頑健に選ばれることが分かった（表A2）。これは、計算量の外れ値である AlphaGo Zero と AlphaGo Master を除外しても変わらない（表A3）。

表A2：2010年から2024年5月までのフロンティアモデルについてのモデル選択の実験。

モデル	BIC	BIC 90%信頼区間	BIC スコア差	BIC スコア差の90%信頼区間	X²	単純モデルより 選ばれた割合	K分割平均MSE	K分割平均MSE 90%信頼区間	直近の傾き（年N倍）	直近の傾き 90%信頼区間	屈曲点	屈曲点 90%信頼区間
単純	239.34	[200.37, 266.04]	0.00	[0.00, 0.00]	NaN	0%	0.74	[0.47, 0.97]	5.26	[4.86, 5.69]	NaN	NaN
離散的な加速	201.42	[163.84, 223.02]	-37.92	[-56.26, -22.89]	3.91e-11	100%	0.63	[0.4, 0.77]	3.33	[2.78, 4.12]	2018-01	[2016-12, 2018-01]
不連続	195.13	[160.41, 211.86]	-44.21	[-72.06, -23.88]	9.74e-13	100%	0.6	[0.4, 0.75]	4.35	[3.71, 5.34]	2018-06	[2016-12, 2019-04]
双曲線	276.06	[240.93, 299.97]	36.72	[27., 49.86]	1	0%	1.02	[0.7, 1.33]	NaN	NaN	NaN	NaN

表A3：2010年から2024年5月までのフロンティアモデル（AlphaGo Master と AlphaGo Zero を除く）についてのモデル選択の実験。

モデル	BIC	BIC 90%信頼区間	BIC スコア差	BIC スコア差の90%信頼区間	X²	単純モデルより 選ばれた割合	K分割平均MSE	K分割平均MSE 90%信頼区間	直近の傾き（年N倍）	直近の傾き 90%信頼区間	屈曲点	屈曲点 90%信頼区間
単純	222.43	[188.16, 243.76]	0.00	[0.00, 0.00]	NaN	0%	0.53	[0.38, 0.67]	5.3	[4.9, 5.73]	NaN	NaN
離散的な加速	201.5	[171.81, 218.14]	-20.92	[-38.66, -8.75]	1.47e-7	100%	0.51	[0.36, 0.63]	4.17	[3.58, 4.86]	2018-01	[2016-10, 2019-08]
不連続	203.22	[168.06, 216.29]	-19.21	[-41.54, -7.41]	1.44e-7	100%	0.54	[0.36, 0.63]	4.82	[3.8, 5.99]	2018-08	[2014-09, 2020-06]
双曲線	261.56	[230.18, 282.67]	39.13	[25.64, 54.24]	1	0%	0.76	[0.55, 0.95]	NaN	NaN	NaN	NaN

言語モデル（Transformer以降）

言語モデルの全体的な傾向のモデル化には、単純な指数関数モデルが選ばれることが分かった（表A4）。規模で各時点の上位10に入る言語モデルを見ると、代わりに不連続を含む当てはめが選ばれる（表A5）。

表A4：2017年6月から2024年5月までの注目すべき言語モデルについてのモデル選択の実験。

モデル	BIC	BIC 90%信頼区間	BIC スコア差	BIC スコア差の90%信頼区間	X²	単純モデルより 選ばれた割合	K分割平均MSE	K分割平均MSE 90%信頼区間	直近の傾き（年N倍）	直近の傾き 90%信頼区間	屈曲点	屈曲点 90%信頼区間
単純	682.74	[649.75, 708.56]	0.00	[0.00, 0.00]	NaN	0%	2.96	[2.45, 3.47]	9.54	[ 7.39, 12.23]	NaN	NaN
離散的な加速	693.19	[652.37, 712.54]	10.45	[-6.78, 10.93]	0.1735	23%	3.02	[2.44, 3.44]	6.47	[1.49, 11223]	2019-09	[2018-06, 2023-11]
不連続	694.83	[650.01, 709.44]	12.08	[-10.38, 10.31]	0.0754	35%	3.22	[2.41, 3.46]	70.98	[3.88, 9773]	2022-11	[2018-01, 2023-11]
双曲線	693.26	[660.52, 718.33]	10.52	[ 7.1, 14.55]	0.0204	0%	3.05	[2.54, 3.56]	NaN	NaN	NaN	NaN

表A5：2017年6月から2024年5月までの、言語モデルの中で計算量が各時点の上位10に入る言語モデルについてのモデル選択の実験。

モデル	BIC	BIC 90%信頼区間	BIC スコア差	BIC スコア差の90%信頼区間	χ²	単純モデルより 選ばれた割合	K分割平均MSE	K分割平均MSE 90%信頼区間	直近の傾き（年N倍）	直近の傾き 90%信頼区間	屈曲点	屈曲点 90%信頼区間
単純	151.22	[123.58, 166.88]	0.00	[0.00, 0.00]	NaN	0%	0.51	[0.34, 0.65]	9.96	[ 8.25, 12.01]	NaN	NaN
離散的な加速	136.3	[109.15, 146.19]	-14.93	[-37.85, -2.99]	5e-6	98%	0.42	[0.27, 0.5 ]	5.04	[3.14, 7.26]	2020-06	[2019-04, 2021-12]
不連続	135.71	[105.79, 143.79]	-15.51	[-43.44, -2.46]	2e-6	98%	0.44	[0.26, 0.51]	6.68	[3.47, 9.26]	2020-06	[2019-01, 2022-02]
双曲線	169.89	[140.78, 186.8 ]	18.67	[13.24, 24. ]	1	0%	0.64	[0.41, 0.81]	NaN	NaN	NaN	NaN

Google DeepMind の上位モデル

BICによれば不連続を含むモデルが選ばれるが、K分割平均MSEはこれを裏づけない。そのため、既定として単純なモデルを採用する。

表A6：2010年から2024年5月までの、Google DeepMind のモデルの中で計算量が各時点の上位10に入る言語モデルについてのモデル選択の実験。

モデル	BIC	BIC 90%信頼区間	BIC スコア差	BIC スコア差の90%信頼区間	X²	単純モデルより 選ばれた割合	K分割平均MSE	K分割平均MSE 90%信頼区間	直近の傾き（年N倍）	直近の傾き 90%信頼区間	屈曲点	屈曲点 90%信頼区間
単純	186.16	[152.99 205.05]	0.00	[0.00, 0.00]	NaN	0%	1.37	[0.75, 1.86]	4.89	[3.78, 6.07]
離散的な加速	160.12	[126.98 177.05]	-26.05	[-42.34, -14.31]	2.59e-8	100%	1.42	[0.74, 1.87]	3.46	[2.48, 9.67]	2018-01	[2017-07, 2021-05]
不連続	152.5	[117.77 163.39]	-33.67	[-59.87, -20.09]	3.9e-10	100%	1.5	[0.71, 1.81]	5.21	[ 4.2, 14.01]	2018-01	[2017-06, 2021-01]
双曲線	193.92	[158.36 212.39]	7.75	[ 4.2, 11.23]	1	0%	1.42	[0.77, 2. ]

付録2：上位N件によるフロンティアの感度分析

この付録では、「フロンティアモデル」を、Nを1から20の範囲で変えた、計算量で各時点の上位N件に入るモデルと定義したときに、フロンティアモデルについての結果がどれほど変わるかを調べる。結果は比較的頑健であると結論づけた。具体的には、成長率はNの値が変わっても比較的安定している。また、ほとんどのNの値で、不連続を含むモデルが単純な指数関数的成長のモデルより頑健に選ばれる。

表A7：フロンティアモデルの定義におけるNの選び方の感度分析。

上位N件	BICの差	不連続モデルが選ばれた割合	単純な当てはめの傾き（年◯倍）
5	-38.18（90%信頼区間：-55.00〜-22.68）	100%	5.32（90%信頼区間：4.85〜5.76）
6	-39.02（90%信頼区間：-58.10〜-21.99）	100%	5.35（90%信頼区間：4.91〜5.83）
7	-39.19（90%信頼区間：-57.36〜-23.41）	100%	5.33（90%信頼区間：4.88〜5.78）
8	-38.32（90%信頼区間：-55.52〜-22.85）	100%	5.31（90%信頼区間：4.88〜5.75）
9	-38.20（90%信頼区間：-54.34〜-23.90）	100%	5.28（90%信頼区間：4.84〜5.69）
10	-39.60（90%信頼区間：-57.02〜-22.63）	100%	5.27（90%信頼区間：4.83〜5.67）
11	-37.90（90%信頼区間：-57.33〜-21.81）	100%	5.15（90%信頼区間：4.75〜5.59）
12	-38.75（90%信頼区間：-59.46〜-19.42）	100%	5.17（90%信頼区間：4.76〜5.59）
13	-46.50（90%信頼区間：-67.69〜-25.62）	100%	5.23（90%信頼区間：4.78〜5.71）
14	-47.76（90%信頼区間：-69.54〜-26.45）	100%	5.29（90%信頼区間：4.83〜5.77）
15	-48.05（90%信頼区間：-70.74〜-27.37）	100%	5.32（90%信頼区間：4.86〜5.79）
16	-45.84（90%信頼区間：-67.30〜-25.84）	100%	5.31（90%信頼区間：4.85〜5.81）
17	-53.18（90%信頼区間：-74.84〜-31.64）	100%	5.44（90%信頼区間：4.95〜5.95）
18	-49.53（90%信頼区間：-72.97〜-28.08）	100%	5.43（90%信頼区間：4.96〜5.93）
19	-48.53（90%信頼区間：-70.61〜-27.90）	100%	5.39（90%信頼区間：4.95〜5.86）
20	-48.93（90%信頼区間：-70.73〜-30.32）	100%	5.43（90%信頼区間：5.00〜5.89）

付録3：主な結果のまとめ

ここでは、この記事の主な結果を一か所にまとめる。

表A8：この記事を通じて得られた主な結果のまとめ。

対象	期間	傾向
注目すべきモデル	2010年〜2024年5月	年4.1倍（90%信頼区間：3.7倍〜4.6倍）
フロンティアモデル	2010年〜2024年5月	年5.3倍（90%信頼区間：4.9倍〜5.7倍）
最近のフロンティアモデル	2018年ごろ〜2024年5月	年4.2倍（90%信頼区間：3.6倍〜4.9倍）
注目すべき言語モデル	2017年6月〜2024年5月	年9.5倍（90%信頼区間：7.4倍〜12.2倍）
最近の上位の言語モデル	2020年半ばごろ〜2024年5月	年5.0倍（80%信頼区間：3.1倍〜7.3倍）
OpenAI の上位モデル	2017年8月〜2024年5月	年5.3倍（90%信頼区間：2.5倍〜10.2倍）
Google DeepMind の上位モデル	2012年7月〜2024年5月	年4.9倍（90%信頼区間：3.8倍〜6.1倍）
Meta AI の上位モデル	2015年7月〜2024年5月	年7.1倍（80%信頼区間：4.8倍〜10.1倍）