データインサイト
AIチップのメモリ帯域幅の総計は年4.1倍で伸び、現在は毎秒7,000万テラバイトに達している
広帯域メモリ（High-bandwidth memory、HBM）はAIチップの重要な構成要素で、大規模モデルを効率よく学習・提供するのに必要な記憶容量とスループットを担う。したがってHBMの帯域幅の総計は、AIモデルを提供する世界全体の能力を大まかに示す代理指標になる。2025年には、AIチップが売上高ベースでHBM業界の生産量の90%超を消費した。
2025年第4四半期時点で、2022年以降に出荷されたAIチップのメモリ帯域幅の累計は毎秒約7,000万テラバイトに達した。これは世界のインターネットトラフィックのおよそ30万倍のデータを毎秒扱える量である。数値は主要チップメーカー5社の財務開示から得ている。
このグラフについて詳しく
AIチップとともに出荷されたHBM帯域幅の総計は、四半期ごとの出荷数に各チップの既知のメモリ帯域幅を掛けて推定した。帯域幅の仕様が異なる複数のバリエーションがあるチップについては、最も普及したバリエーションを使うか、どのチップが販売の大半を占めたか判断できない場合は全バリエーションの幾何平均を取った。
主な難点はNVIDIAのHopper世代である。H100とH200はメモリの仕様が異なるのに、財務報告では両者の出荷がまとめて計上されている。両者の切り替わりは6つの公開データ点に合わせたロジスティックS字曲線でモデル化し、不確実性はモンテカルロ・シミュレーションで伝播させた。
データ（原文・英語）
- チップ種別ごとのHBM累計出荷量 CSV・Epoch AI