フロンティアモデルの学習には、GPU、サーバー、冷却などの設備を動かすための大量の電力が必要であり、その量は増え続けている。これを押し上げているのはGPU数の増加である。GPU1基あたりの消費電力も伸びてはいるが、その伸びは年に数%にすぎない。
学習計算量(training compute)はさらに速く、年4倍程度のペースで伸びている。しかし、ハードウェアの効率向上(過去10年で12倍の改善)、低精度フォーマットの採用(8倍の改善)、学習期間の長期化(4倍の増加)によって、学習計算量に対する必要電力は年におよそ2分の1のペースで減っている。
学習中のモデルの消費電力を算出・推定する方法はこちらで説明している。