データインサイト

最先端のAIチップ設計は、フロンティアモデルの学習に約4年間使われている

主要なAIチップの発売から、そのチップを使って学習した最後のフロンティアモデルの公開日までの期間は、中央値で3.9年である。ここではNVIDIA V100以降のAIチップに注目する。これらのチップは、現在のフロンティアモデルに近い大規模言語モデルの学習に使われてきたからである。

フロンティアモデルの学習におけるAIチップ設計の寿命フロンティアモデルの学習におけるAIチップ設計の寿命Google TPU v4NVIDIA A100Huawei Ascend 910Google TPU v3NVIDIA V100Google TPU v2NVIDIA P100NVIDIA M40Google TPU v1NVIDIA Tesla K80NVIDIA Tesla K40tNVIDIA Quadro K6000201420162018202020222024日付日付:2013-07-23日付:2013-11-22日付:2014-11-17日付:2015-05-15日付:2015-11-10日付:2016-04-05日付:2017-05-01日付:2014-09-01日付:2017-01-23日付:2017-07-09日付:2017-12-04日付:2017-07-25日付:2019-12-13日付:2017-12-04日付:2017-06-21日付:2018-05-18日付:2019-08-23日付:2020-03-01日付:2021-05-20日付:2021-12-22日付:2022-03-28日付:2021-12-22日付:2024-04-15日付:2024-02-14最長の期間(4.5年)2017年6月より前に発売← 右の点:フロンティアモデルの学習に最後に使われた時点各行の左の点はチップの発売日、右の点はそのチップで学習したフロンティアモデルのうち最後のものの公開日。出典:Epoch AI(CC BY 4.0)・作図:AGI Hubepoch.ai

NVIDIA V100より古いチップも含めると、発売からフロンティアモデルの学習に最後に使われるまでの寿命の中央値は2.7年に縮まる。

このグラフについて詳しく

本分析では、市販のAIチップ設計の「フロンティア寿命」、つまりチップが一般に発売されてから、そのチップを使って学習した既知の「フロンティアAIモデル」のうち最後のものが公開されるまでの期間を分析している。フロンティアAIモデルは、公開時点で学習計算量(training compute)が上位10位以内に入る大規模AIモデルと定義する。この分析のために、注目すべきモデル(Notable Models)データセットと機械学習ハードウェア(Machine Learning Hardware)データセットを組み合わせ、各AIチップ設計について、それを使って学習したフロンティアモデルの最新の公開日を特定した。

分析を再現するためのコードはこちらで公開している。

データ(原文・英語)

← データインサイト一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/data-insights/gpu-frontier-lifespan