データの解説 GPUクラスター

推定方法

原文:GPU clusters documentation – Estimation

データセットの項目の中には、論文やその他の資料で直接報告されていないことが多いため、推定が必要になるものがある。ここでは、必要電力、ハードウェアのコスト、推定の確度を示すメタデータをそれぞれどう推定するかを説明する。

必要電力の推定

各GPUクラスターのピーク電力需要は、次の式で計算した。

電力 = チップのTDP × チップの数 × システムのオーバーヘッド × PUE

ほとんどのチップについて、公開されている場合は熱設計電力(Thermal Design Power、TDP)を集めた。ただし、一部の中国製チップや、GoogleのTPU v5pのような独自設計のチップについてはTDPが見つからなかった。チップの数と種類を数える際には、主たるチップと副次的なチップの両方を考慮した。システムのオーバーヘッド(CPU、ネットワークスイッチ、ストレージなど、ほかのサーバー部品に必要な追加の電力)を織り込むため、GPU以外のハードウェアの分として1.82倍の係数を用いた。これはNVIDIA DGX H100サーバーの仕様(NVIDIA, 2025)に基づく。電力使用効率(Power Usage Effectiveness、PUE)も考慮した。PUEはデータセンター全体の電力使用量とIT機器の電力使用量の比である(最小値は1)。2024年の米国データセンターのエネルギー使用に関する報告書(Shehabi et al., 2024)によると、AI専用のデータセンター施設の2023年の平均PUEは1.14で、全米平均の1.43より0.29低かった。そこで、Shehabi et al.(表2)が報告した全体の値から0.29を差し引くことで、全データセンター施設の傾向を補正し、AIデータセンターの平均PUEを推定した。

詳しくは、私たちの論文の付録B.4を参照してほしい。

ハードウェアのコストの推定

GPUクラスターのハードウェアの総コストが公表されている場合は、分析にその値を使う。公表されていない場合は、チップの種類、数量、公開されているチップの価格からコストを推定する。チップの種類ごとに、チップ1個あたりのコストにチップの数を掛け、サーバー内とサーバー間のオーバーヘッドの係数を掛ける。チップの種類が複数あれば、それらのコストを合計する。次に、サーバー同士をつなぐネットワーク機器のコストを補正する。これはハードウェアの最終的な取得コストの19%と推定されている。最後に、AIチップを大量に購入する者は注文の際に値引きを交渉することが多いため、クラスターの最終的なハードウェアのコストに15%の割引率を適用する。

ハードウェアのコストを推定する最終的な式は次のとおりである。

ハードウェアの取得コスト = [(主たるAIチップのコスト × 主たるAIチップの数量) + (副次的なAIチップのコスト × 副次的なAIチップの数量)] × サーバー内オーバーヘッド × サーバー間オーバーヘッド × 割引係数

この式で、サーバー内オーバーヘッド(「チップからサーバーへ」の係数)は1.64倍、サーバー間オーバーヘッド(「サーバーからクラスターへ」の係数)は1.23倍、割引係数は0.85倍である。

詳しくは、私たちの論文の付録B.5を参照してほしい。

確度の推定

多くの場合、システムの正確な詳細がすべて分かっているわけではないため、手元の情報から推定しなければならない。その場合は、推論の根拠を「Notes」項目に説明し、必要に応じて「Certainty」項目の値を下げる。

たとえば、システムの電力容量は分かっていてもチップの種類が分からない場合、使われている可能性が最も高いチップの正味のFLOP/s/Wに基づいてFLOP/sを推定することがある。数年先のシステムで、その時点で存在するチップの仕様が分からない場合は、FLOP/s/Wの年1.26倍の改善傾向(私たちの論文の付録D.1)が続くと仮定する。

← データの解説一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/data/gpu-clusters-documentation/estimation