データの解説 GPUクラスター

項目の定義

原文:GPU clusters documentation – Records

このデータベースの1件のレコードには、ある時点(通常は初めて稼働した日)でのGPUクラスターの詳細が収められている。
GPUクラスターの多くは、時とともに新しいハードウェアで更新・拡張される。その場合は、下の手順に従って新しいレコードを作り、更新が完了した日付を反映させる。

クラスターの更新

既存のGPUクラスターが、クラスターを大きく変えるような形で更新された場合は、新しいGPUクラスターとして数え、新しいレコードを作る。次の基準のいずれかに当てはまる場合がこれに当たる。

  • クラスターの性能が20%を超えて向上した
  • クラスターで使われているチップの過半が入れ替えられた

後のクラスターが前のクラスターを土台にしていることは、両者を「Builds Upon」と「Superseded by」の項目で結びつけて示す。(詳しくは下の項目の表を参照してほしい。)

中国のデータ

中国のシステムのデータは、名称を伏せ、数値の項目を有効数字1桁に丸めて匿名化した。これは、公開されている私たちの情報源を守り、所有者が関連情報を伏せてしまうリスクを減らすためである。米国のシンクタンクの報告書で取り上げられることが増えた結果、中国の情報公開が後退したという報道を受けて、この措置をとった。信頼できる一部の研究者には、要望に応じて完全なデータセットへのアクセスを認めることがある。問い合わせはdata@epoch.aiまで。

項目

列名型定義値の例収録率
Nameテキスト

所有者の名称に続けて、最も公式な発表で使われたクラスターの名称を記す。
名称や所有者の名称が分からない場合は、ほかの識別情報(所在地、年、チップの種類、通し番号など)を使ってスーパーコンピューターを区別することがある。
複数の段階を持つスーパーコンピューターは「Phase 1」「Phase 2」などと表記する。

Oak Ridge NL Frontier

100% 482件中482件
Statusカテゴリ(単一選択)

Existing:(このレコードに記した形の)スーパーコンピューターが稼働していると考えられる(GPUの80%超が学習に使える)。
Planned:スーパーコンピューターはまだ稼働しておらず、このレコードは稼働時の計画を記している。
Decomissioned:スーパーコンピューターはかつて存在したが、その後廃止された。

Existing

100% 482件中482件
Certaintyカテゴリ(単一選択)

このクラスターが、記載されたおおよその形で存在する(または存在するようになる)可能性はどの程度か。
Confirmed:非常に信頼できると見られる公式発表、または専門家による確認がある。確度90%超に相当する。
Likely:クラスターは、おそらく記載されたおおよその形で存在する(または存在するようになる)。確度50〜90%。
Unlikely:クラスターは、おそらく記載されたおおよその形では存在しない(または存在するようにならない)。確度10〜50%。
Confirmed false:クラスターは記載されたおおよその形では存在しない(または存在するようにならない)。たとえば、専門家や報道によって以前の発表が誤りだったと明らかになった場合に使う。(クラスターが記載されたおおよその形で存在しない可能性が90%以上)

Confirmed

100% 482件中482件
Single cluster?カテゴリ(単一選択)

Yes:出典から、物理的に大きく離れていない一続きの敷地に設置され、高帯域のネットワークファブリックでつながって1つのシステムをなす、単一のスーパーコンピューターであることが明らかに読み取れる。それに反する証拠はない。
Unclear:どちらとも言える有力な証拠がない。
No:出典が言及しているクラスターは、実際には複数の別々のスーパーコンピューターである。

Yes

100% 482件中482件
Chip type (primary)カテゴリ(単一選択)

スーパーコンピューターで使われている主たるAIチップ。EpochのMLハードウェア・データベースの特定のチップにリンクしている。

AMD Radeon Instinct MI250X

59% 482件中283件
Chip quantity (primary)数値

スーパーコンピューターに含まれる主たるAIチップの総数。
このデータセットでは、GB200は2個のAIチップとして数える。

37,632

89% 482件中428件
Hardware noteテキスト

スーパーコンピューターに含まれるすべてのAIチップを説明する注記。

AMD MI250X

59% 482件中282件
Max OP/s (log)数値

スーパーコンピューターが達成できる理論上の最大の毎秒演算回数(32ビット、16ビット、8ビットの性能のうち最大のもの)の常用対数。

19.158756074028645

95% 482件中460件
16-bit OP/s (log)数値

スーパーコンピューターの16ビットFLOP/sでの理論上の最大性能の常用対数。

19.158756074028645

92% 482件中442件
H100 equivalents数値

スーパーコンピューターのMax OP/s項目(32ビット、16ビット、8ビット)を、H100のFP8 FLOP/sで割ったもの。なお、H100換算は明確に定義された尺度ではなく、この数値は精密な測定値というより「目安」として扱うべきである。2021年ごろ以降のスーパーコンピューター同士の比較にはかなりうまく使えるが、それより古いスーパーコンピューターにはあまり意味がない。

7,283

95% 482件中460件
First Operational Date日付

スーパーコンピューターが初めて完全に稼働した時期(つまり、クラスターの少なくとも80%でワークロードを実行できるようになった時期)。スーパーコンピューターが稼働を始めた正確な日付が発表されることはまれなので、多くの場合、1か月程度の精度の近似値になる。既定では、この日付は保守的に定め、稼働していたことを確認できた最初の日付とする。そのため、実際に初めて稼働した日の数か月後になることが多い。
このデータ項目は日付型で、「First operational note」項目のテキストから自動的に計算される。

2022-05-30

99% 482件中475件
Countryカテゴリ(単一選択)

スーパーコンピューターが物理的に所在する国。

United States of America

97% 482件中466件
Ownerカテゴリ(複数選択)

AIスーパーコンピューターそのもの(データセンター内のハードウェア)を所有する主体。合弁事業の場合は複数の主体が入ることがある。データセンターそのものを所有する主体や、スーパーコンピューターを長期契約で借りている主体とは異なる場合がある。

US Department of Energy

59% 482件中284件
Sectorカテゴリ(単一選択)

Private:営利の主体が所有する。
Public:政府または大学が所有する。
Public/Private:民間企業と政府または大学との共同事業で、公共部門と民間部門の主体がそれぞれスーパーコンピューターの費用の少なくとも25%を負担している場合。

Public

98% 482件中473件
Power Capacity (MW)数値

システムのピーク電力容量(メガワット)。報告された電力容量があればその値、なければ計算した電力容量とする。

40

88% 482件中422件
Hardware Cost数値

システムのハードウェアを取得するためのコスト(2025年の米ドル換算)。GPU、CPU、ネットワークなどのコストを含むが、データセンターそのものは含まない。報告されたハードウェアのコストがあればその値、なければ計算したハードウェアのコストとする。

$620,445,966.19

80% 482件中384件
Energy Efficiency数値

ワットあたりの16ビットFLOP/sの対数。分子はシステムの理論上の最大16ビットFLOP/s、分母はシステムのピーク電力容量である。

360326400000

84% 482件中406件
Rank when first operational数値

このスーパーコンピューターが初めて稼働した日の、性能(FLOP/s。32ビット、16ビット、8ビット精度のうち最大のもの)での世界順位。

2

92% 482件中445件
Locationテキスト

スーパーコンピューターが物理的に所在する具体的な場所。

Oak Ridge National Laboratory 5200, 1 Bethel Valley Rd, Oak Ridge, TN 37830

84% 482件中406件
Usersカテゴリ(複数選択)

スーパーコンピューターを利用していることが分かっている主要な主体。「Cloud」は、スーパーコンピューターがクラウド経由で一般に提供されていることを指す。多くの場合、所有者だけになる。

US Government, Academia, Industry

59% 482件中284件
Quoteテキスト

チップの数と種類、および該当する場合は報告された、あるいは手作業で求めたFLOP/sの数値を示す、出典からの引用。

このシステムは74台のOlympusラック型HPEキャビネットからなり、各キャビネットに128個のAMD計算ノード、合計9,408個のAMD計算ノードがある…… Frontierの各計算ノードは、512 GBのDDR4メモリを利用できる64コアのAMD「Optimized 3rd Gen EPYC」CPU[1個](物理コアあたり2ハードウェアスレッド)で構成される。各ノードにはさらにAMD MI250X[4個]が含まれる

59% 482件中283件
Noteテキスト

スーパーコンピューターについての補足的な背景や役に立つ情報を記した注記。

(9408 nodes)x(4 GPUs/node) = 37,632 GPUs

18% 482件中88件
First Operational Date Noteテキスト

スーパーコンピューターが初めて完全に稼働した時期(つまり、クラスターの少なくとも80%でワークロードを実行できるようになった時期)。スーパーコンピューターが稼働を始めた正確な日付が発表されることはまれなので、多くの場合、1か月程度の精度の近似値になる。既定では、この日付は保守的に定め、稼働していたことを確認できた最初の日付とする。そのため、実際に初めて稼働した日の数か月後になることが多い。
スーパーコンピューターが建設中または計画中の場合は「Planned」または「Planned for [日付]」となる。

2022-05-30

60% 482件中291件
Certainty Noteテキスト

その確度の水準を選んだ理由の簡単な説明。

政府の公式ウェブサイトで詳細が公開された

13% 482件中64件
Builds Uponカテゴリ(単一選択)

スーパーコンピューターが複数の段階に分けて建設された場合、前の段階に当たるスーパーコンピューターにリンクする。

6% 482件中29件
Superseded byカテゴリ(単一選択)

スーパーコンピューターに後の段階があり(たとえば、後に更新された場合)、その段階がすでに稼働しているとき、その段階に当たるスーパーコンピューターのレコードにリンクする。

6% 482件中30件
Possible duplicate真偽値

このスーパーコンピューターが、データベースにすでにあるスーパーコンピューターと重複している可能性が20%を超えると考えられる場合にTrue。2つのレコードが同じスーパーコンピューターに当たるかもしれない場合は、情報の多いほうのレコードをFalse、少ないほうをTrueとする(こうしておけば、利用者は分析の際に「Possible Duplicate」=Trueのレコードをすべて除外できる)。

0% 482件中0件
Possible Duplicate Ofカテゴリ(複数選択)

「Possible duplicate」がTrueの場合、このスーパーコンピューターと重複していると考えられるレコードにリンクする。

0% 482件中0件
Chip type (secondary)カテゴリ(単一選択)

スーパーコンピューターで使われている副次的なAIチップ(ある場合)。EpochのMLハードウェア・データベースの特定のチップにリンクしている。

3% 482件中16件
Chip quantity (secondary)数値

スーパーコンピューターに含まれる副次的なAIチップの総数(ある場合)。
このデータセットでは、GB200は2個のAIチップとして数える。

NaN

4% 482件中18件
Total number of AI chips数値

スーパーコンピューターに含まれるAIチップの数。{主たるAIチップの数量+副次的なAIチップの数量、手作業で求めたチップの総数、FLOP/sから計算したチップの数}のうち最大のもの。

37,632

90% 482件中435件
GPU supplier (primary)カテゴリ(単一選択)

主たるAIチップの種類のGPU供給元。

AMD

100% 482件中482件
GPU supplier (secondary)カテゴリ(単一選択)

副次的なAIチップの種類のGPU供給元(該当する場合)。

43% 482件中206件
Exclude真偽値

そのレコードを分析から除外すべき場合にTrue。収録の閾値を下回っている場合や、ほかの理由で除外する場合がある。それ以外はFalse。

0% 482件中0件
Include in Standard Analysis真偽値

このレコードが、元の論文で行った分析に使う条件を満たしている場合にTrue。つまり、(Status=“Existing”または“Decomissioned”) AND (Exclude=False) AND (Certainty = “Confirmed”または“Likely”) AND (Possible Duplicate=False) AND (Single Cluster?=“Yes”) の場合である。
それ以外はFalse。

True

100% 482件中482件
Max OP/s数値

スーパーコンピューターが達成できる理論上の最大の毎秒演算回数(32ビット、16ビット、8ビットの性能のうち最大のもの)。

1.4e+19

95% 482件中460件
8-bit OP/s数値

スーパーコンピューターが8ビットの数値精度で達成できる理論上の最大の毎秒演算回数。

1.4e+19

49% 482件中237件
16-bit OP/s数値

スーパーコンピューターが16ビットの数値精度で達成できる理論上の最大の毎秒演算回数。

1.4e+19

92% 482件中442件
32-bit OP/s数値

スーパーコンピューターが32ビットの数値精度で達成できる理論上の最大の毎秒演算回数。

3.6e+18

82% 482件中397件
Calculated Power Capacity (MW)数値

チップの数と種類に基づいて計算した、スーパーコンピューターの電力容量(メガワット)。方法論の全体は論文を参照のこと。

40.066790399999995

87% 482件中417件
Reported power capacity (MW)テキスト

報告されたスーパーコンピューターの電力容量(メガワット)。

40

17% 482件中80件
Calculated Cost数値

チップの数と種類に基づいて計算したコスト(2025年の米ドル換算)。方法論の全体は論文を参照のこと。

$967,488,702.64

80% 482件中384件
Reported Cost数値

報告されたスーパーコンピューターの総コスト(当時の米ドル)。

$600,000,000

6% 482件中28件
Reported Cost (Inflation adjusted)数値

報告されたスーパーコンピューターの総コストを、2025年の米ドルに換算したもの。

$620,445,966.19

6% 482件中28件
Cost Quoteテキスト

スーパーコンピューターのコストを述べた、出典からの引用。ドル以外の通貨の場合や、まだインフレ調整されていない場合がある。

$600M

6% 482件中27件
Largest existing cluster when first operationalテキスト

このスーパーコンピューターが初めて稼働した日に存在していた、既知の最大のスーパーコンピューターの名称。

Microsoft GPT-4 cluster

92% 482件中445件
% of largest cluster when first operational数値

このスーパーコンピューターの理論上の最大FLOP/s(32ビット、16ビット、8ビット)を、その時点で存在していた既知の最大のスーパーコンピューターの理論上の最大FLOP/sで割ったもの。

0.9239138461538378

92% 482件中445件
Source 1 (through Source n)URL

AIスーパーコンピューターに関する出典のURL。リンクを保存するため、通常はWayback Machineのリンクとして保存している。

https://web.archive.org/web/20240720224959/https://docs.olcf.ornl.gov/systems/frontier_user_guide.html

59% 482件中286件

← データの解説一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/data/gpu-clusters-documentation/records