データインサイト
最先端のAIスーパーコンピュータの電力需要は13か月ごとに倍増している
最先端のAIスーパーコンピュータは、より多くの電力を消費するチップをより多く使うようになり、ますますエネルギー集約的になっている。2019年1月時点では、オークリッジ国立研究所のSummitが13MWで、AIスーパーコンピュータの中で最大の電力容量を持っていた。現在、xAIのColossusスーパーコンピュータは280MWを使用しており、その20倍を超える。
地域の電力網にはこれほど大量のハードウェアを動かすだけの電力容量がないため、Colossusは移動式発電機に頼っている。将来は、1か所に膨大な電力を供給する難しさを緩和するため、Gemini 1.0の学習構成と同様に、地理的に分散した複数のスーパーコンピュータにまたがってフロンティアモデルが学習されるようになるかもしれない。
このグラフについて詳しく
データはEpoch AI のAIスーパーコンピュータ・データセットによる。このデータセットは、AI専用のアクセラレータを備えた728のスーパーコンピュータを、2010年から現在まで追跡している。Epoch AI の推定では、これらのシステムは2025年より前に生産された全AIチップの性能の約10〜20%を占める。ここでは、現代のAI学習との関連が最も高い、2019年以降に稼働を開始した502のAIスーパーコンピュータを対象とする。
AIスーパーコンピュータの所有者が報告した電力容量があれば、それを使う。報告値が見つからない場合は、各AIスーパーコンピュータの理論上の最大電力需要を次の式で推定する。
チップのTDP × チップ数 × システムのオーバーヘッド × PUE
チップの熱設計電力(Thermal Design Power、TDP)は、チップが動作するよう設計された最大電力を表す。この値はほとんどのAIチップで公開されているが、一部の中国製チップや、GoogleのTPU v5pのようなカスタムシリコンについては情報がないため、それらのシステムは分析から除外している。
システムのオーバーヘッドは、GPU以外のハードウェアを動かすのに必要な追加の電力を表す。NVIDIA DGX H100サーバーの仕様にもとづき、すべてのシステムに1.82という値を適用している。この数値の詳細は「前提(Assumptions)」の節を参照。
電力使用効率(Power Usage Effectiveness、PUE)は、IT以外の設備(空調や電力変換の損失など)に伴うオーバーヘッドを表す。データセンターの効率向上に伴ってPUEは時間とともに低下しており、年ごとの数値はShehabiら(2024年)から得ている。同じ報告書で、(AIスーパーコンピュータのような)特化型データセンターの平均PUEは全体の平均より0.29低いとされているため、各年の全体のPUEから0.29を差し引いている。
TOP500リストが報告する電力使用量はベンチマーク実行中の平均消費電力であるため、ピーク値と平均値の両方がわかっている事例との比較にもとづき、この値を1.5倍してピーク消費電力を近似している。
データ(原文・英語)
- AIスーパーコンピュータ(GPUクラスタ)データセット CSV・Epoch AI