データインサイト

NVIDIAチップによる計算資源のストックは10か月ごとに倍増している

NVIDIAチップで利用可能な計算資源の総量は2019年以降およそ年2.3倍で増えており、そのおかげでますます大規模なモデルを学習できるようになっている。現在、NVIDIAのAIハードウェア全体の計算資源のうち77%をHopper世代のAIチップが占めている。この成長ペースでは、古い世代のチップが累計計算資源に占める割合は、登場からおよそ4年で半分を下回る傾向にある。

絶対値

GPU世代別に見たNVIDIAの設置済み計算資源の総量GPU世代別に見たNVIDIAの設置済み計算資源の総量設置済み計算資源の総量(FLOP/s)01×10²¹2×10²¹3×10²¹201920202021202220232024日付2019:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,0002020:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,0002021:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,0002022:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,0002023:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,0002024:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,000:2,200,000,000,000,000,0002019:24,000,000,000,000,000,000:33,000,000,000,000,000,000:42,000,000,000,000,000,000:52,000,000,000,000,000,0002020:64,000,000,000,000,000,000:78,000,000,000,000,000,000:100,000,000,000,000,000,000:100,000,000,000,000,000,0002021:110,000,000,000,000,000,000:110,000,000,000,000,000,000:110,000,000,000,000,000,000:110,000,000,000,000,000,0002022:110,000,000,000,000,000,000:110,000,000,000,000,000,000:110,000,000,000,000,000,000:110,000,000,000,000,000,0002023:100,000,000,000,000,000,000:92,000,000,000,000,000,000:81,000,000,000,000,000,000:81,000,000,000,000,000,0002024:81,000,000,000,000,000,000:81,000,000,000,000,000,000:81,000,000,000,000,000,000:81,000,000,000,000,000,000:3,400,000,000,000,000,000:3,400,000,000,000,000,000:34,000,000,000,000,000,0002021:65,000,000,000,000,000,000:110,000,000,000,000,000,000:160,000,000,000,000,000,000:220,000,000,000,000,000,0002022:310,000,000,000,000,000,000:420,000,000,000,000,000,000:590,000,000,000,000,000,000:740,000,000,000,000,000,0002023:840,000,000,000,000,000,000:880,000,000,000,000,000,000:870,000,000,000,000,000,000:880,000,000,000,000,000,0002024:860,000,000,000,000,000,000:890,000,000,000,000,000,000:860,000,000,000,000,000,000:820,000,000,000,000,000,0002023:28,000,000,000,000,000,000:97,000,000,000,000,000,000:200,000,000,000,000,000,000:460,000,000,000,000,000,0002024:900,000,000,000,000,000,000:1,400,000,000,000,000,000,000:2,100,000,000,000,000,000,000:3,000,000,000,000,000,000,000年2.3倍90%信頼区間:年2.2〜2.5倍HopperAmpereVoltaPascal原図の破線(年2.3倍の指数トレンド線)は、公開データにトレンド線の値が含まれないため再作図していない。出典:Epoch AI(CC BY 4.0)・作図:AGI Hubepoch.ai

構成比

GPU世代別に見たNVIDIA GPU計算資源の構成比GPU世代別に見たNVIDIA GPU計算資源の構成比構成比0%20%40%60%80%100%201920202021202220232024日付2019:8%:6%:5%:4%2020:3%:3%:2%:2%2021:1%:1%:1%:1%2022:1%:0%:0%:0%2023:0%:0%:0%:0%2024:0%:0%:0%:0%2019:92%:94%:95%:96%2020:96%:93%:95%:74%2021:63%:50%:41%:33%2022:26%:20%:15%:12%2023:11%:9%:7%:6%2024:4%:3%:3%:2%:4%:3%:24%2021:36%:49%:59%:66%2022:73%:79%:85%:87%2023:86%:82%:76%:62%2024:47%:38%:28%:21%2023:3%:9%:17%:33%2024:49%:59%:69%:77%HopperAmpereVoltaPascal出典:Epoch AI(CC BY 4.0)・作図:AGI Hubepoch.ai

なお、この分析にはTPUやその他の特化型AIアクセラレータは含まれていない。これらについては入手できるデータが少ないためである。TPUはNVIDIAチップに匹敵する総計算資源を提供している可能性がある。

このグラフについて詳しく

Epochは、世界に設置されているNVIDIA GPUの計算能力をGPUモデル別に推定した。推定はNVIDIAの売上報告にもとづき、チップ世代の構成の時間的な推移がAIクラスターのデータセットと同じパターンに従うと仮定している。現在NVIDIA GPU全体で利用可能な計算能力は4e21 FLOP/s、つまりおよそ400万H100換算(H100e)と推定される。さらに、計算能力の累計(減価を考慮)は2019年以降年2.3倍で増えていることがわかった。対象はデータセンター向けの販売のみで、NVIDIAの売上報告で「ゲーミング」の販売に帰属する計算能力は除いている。

分析のコードはこのノートブックで公開している。

データ(原文・英語)

← データインサイト一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/data-insights/nvidia-chip-production