最先端の機械学習ハードウェアのエネルギー効率は毎年40%向上している

これまで、最先端のGPUとTPUのエネルギー効率は2年ごとに倍増してきた。テンソルFP16形式で最も効率の高いアクセラレータは、ワットあたり最大2.1 x 10¹² FLOP/sのMetaのMTIAと、ワットあたり最大1.4 x 10¹² FLOP/sのNVIDIA H100である。今後登場するBlackwellシリーズのプロセッサは、消費電力しだいでは、さらに効率が高くなる可能性がある。