AIデータセンターの消費電力のうち、GPUが占めるのは約40%である

GPUはフロンティアAIデータセンターで行われる処理の中核だが、この先端チップが使う電力は、ピーク稼働時の総消費電力の約40%にすぎない。残りのエネルギーの多くは、電力の非効率、冷却、そしてデータセンター内のチップ間の相互接続に使われる。

典型的なフロンティアAIデータセンターでは、サーバー全体の電力はGPU単体の電力の1.53倍である。IT機器全体はサーバーの1.14倍の電力を使い、その差分はサーバー間ネットワークなどに消費される。施設全体で見ると、冷却、照明、電力変換の損失によって、さらに1.4倍のオーバーヘッドが加わる。