Epoch AIの機械学習ハードウェア・データベースを公開

現代のAIモデルは、専用ハードウェアを備えた大規模なスーパーコンピュータ・クラスターで学習される。今日の最先端AIモデルでは、ハードウェアへの支出が数十億ドルに達することもある。機械学習ハードウェアの動向を詳しく調べられるよう、データハブに新しく機械学習ハードウェア（Machine Learning Hardware）データベースを加えた。ハードウェアの性能が時とともにどう向上してきたか、最先端モデルの学習に使うAIクラスターがどう大きくなってきたか、といった主要な動向を扱う。インタラクティブな可視化も備えており、利用者はこのデータベースを使って自分の疑問を探ることができる。

たとえば、このデータを使うと、GPUの性能が二つの異なる経路で向上してきたことをグラフにできる。1秒あたりの演算回数そのものは年およそ20%増えてきたが、それに加えてテンソルコアや低精度の数値形式といった革新が、さらなる向上をもたらしてきた。

ハードウェアの価格や消費電力といった特性も追跡しており、最先端のAIチップのコスト効率が年ごとに30%向上してきたことをグラフで示せる。これは学習計算量が年4〜5倍で増えていることを支える主要な要因の一つである。

新しい機械学習ハードウェア・データベースが、AI開発の過去と未来に関心を持つすべての人にとって有益な資料になることを願っている。新しい機械学習アクセラレータが発表されるたびに、引き続き追加していく。こちらから探索を始めよう！