データの解説 GPUクラスター
項目の定義
原文:GPU clusters documentation – Records
このデータベースの1件のレコードには、ある時点(通常は初めて稼働した日)でのGPUクラスターの詳細が収められている。
GPUクラスターの多くは、時とともに新しいハードウェアで更新・拡張される。その場合は、下の手順に従って新しいレコードを作り、更新が完了した日付を反映させる。
クラスターの更新
既存のGPUクラスターが、クラスターを大きく変えるような形で更新された場合は、新しいGPUクラスターとして数え、新しいレコードを作る。次の基準のいずれかに当てはまる場合がこれに当たる。
- クラスターの性能が20%を超えて向上した
- クラスターで使われているチップの過半が入れ替えられた
後のクラスターが前のクラスターを土台にしていることは、両者を「Builds Upon」と「Superseded by」の項目で結びつけて示す。(詳しくは下の項目の表を参照してほしい。)
中国のデータ
中国のシステムのデータは、名称を伏せ、数値の項目を有効数字1桁に丸めて匿名化した。これは、公開されている私たちの情報源を守り、所有者が関連情報を伏せてしまうリスクを減らすためである。米国のシンクタンクの報告書で取り上げられることが増えた結果、中国の情報公開が後退したという報道を受けて、この措置をとった。信頼できる一部の研究者には、要望に応じて完全なデータセットへのアクセスを認めることがある。問い合わせはdata@epoch.aiまで。
項目
| 列名 | 型 | 定義 | 値の例 | 収録率 |
|---|---|---|---|---|
| Name | テキスト | 所有者の名称に続けて、最も公式な発表で使われたクラスターの名称を記す。 | Oak Ridge NL Frontier | 100% 482件中482件 |
| Status | カテゴリ(単一選択) | Existing:(このレコードに記した形の)スーパーコンピューターが稼働していると考えられる(GPUの80%超が学習に使える)。 | Existing | 100% 482件中482件 |
| Certainty | カテゴリ(単一選択) | このクラスターが、記載されたおおよその形で存在する(または存在するようになる)可能性はどの程度か。 | Confirmed | 100% 482件中482件 |
| Single cluster? | カテゴリ(単一選択) | Yes:出典から、物理的に大きく離れていない一続きの敷地に設置され、高帯域のネットワークファブリックでつながって1つのシステムをなす、単一のスーパーコンピューターであることが明らかに読み取れる。それに反する証拠はない。 | Yes | 100% 482件中482件 |
| Chip type (primary) | カテゴリ(単一選択) | スーパーコンピューターで使われている主たるAIチップ。EpochのMLハードウェア・データベースの特定のチップにリンクしている。 | AMD Radeon Instinct MI250X | 59% 482件中283件 |
| Chip quantity (primary) | 数値 | スーパーコンピューターに含まれる主たるAIチップの総数。 | 37,632 | 89% 482件中428件 |
| Hardware note | テキスト | スーパーコンピューターに含まれるすべてのAIチップを説明する注記。 | AMD MI250X | 59% 482件中282件 |
| Max OP/s (log) | 数値 | スーパーコンピューターが達成できる理論上の最大の毎秒演算回数(32ビット、16ビット、8ビットの性能のうち最大のもの)の常用対数。 | 19.158756074028645 | 95% 482件中460件 |
| 16-bit OP/s (log) | 数値 | スーパーコンピューターの16ビットFLOP/sでの理論上の最大性能の常用対数。 | 19.158756074028645 | 92% 482件中442件 |
| H100 equivalents | 数値 | スーパーコンピューターのMax OP/s項目(32ビット、16ビット、8ビット)を、H100のFP8 FLOP/sで割ったもの。なお、H100換算は明確に定義された尺度ではなく、この数値は精密な測定値というより「目安」として扱うべきである。2021年ごろ以降のスーパーコンピューター同士の比較にはかなりうまく使えるが、それより古いスーパーコンピューターにはあまり意味がない。 | 7,283 | 95% 482件中460件 |
| First Operational Date | 日付 | スーパーコンピューターが初めて完全に稼働した時期(つまり、クラスターの少なくとも80%でワークロードを実行できるようになった時期)。スーパーコンピューターが稼働を始めた正確な日付が発表されることはまれなので、多くの場合、1か月程度の精度の近似値になる。既定では、この日付は保守的に定め、稼働していたことを確認できた最初の日付とする。そのため、実際に初めて稼働した日の数か月後になることが多い。 | 2022-05-30 | 99% 482件中475件 |
| Country | カテゴリ(単一選択) | スーパーコンピューターが物理的に所在する国。 | United States of America | 97% 482件中466件 |
| Owner | カテゴリ(複数選択) | AIスーパーコンピューターそのもの(データセンター内のハードウェア)を所有する主体。合弁事業の場合は複数の主体が入ることがある。データセンターそのものを所有する主体や、スーパーコンピューターを長期契約で借りている主体とは異なる場合がある。 | US Department of Energy | 59% 482件中284件 |
| Sector | カテゴリ(単一選択) | Private:営利の主体が所有する。 | Public | 98% 482件中473件 |
| Power Capacity (MW) | 数値 | システムのピーク電力容量(メガワット)。報告された電力容量があればその値、なければ計算した電力容量とする。 | 40 | 88% 482件中422件 |
| Hardware Cost | 数値 | システムのハードウェアを取得するためのコスト(2025年の米ドル換算)。GPU、CPU、ネットワークなどのコストを含むが、データセンターそのものは含まない。報告されたハードウェアのコストがあればその値、なければ計算したハードウェアのコストとする。 | $620,445,966.19 | 80% 482件中384件 |
| Energy Efficiency | 数値 | ワットあたりの16ビットFLOP/sの対数。分子はシステムの理論上の最大16ビットFLOP/s、分母はシステムのピーク電力容量である。 | 360326400000 | 84% 482件中406件 |
| Rank when first operational | 数値 | このスーパーコンピューターが初めて稼働した日の、性能(FLOP/s。32ビット、16ビット、8ビット精度のうち最大のもの)での世界順位。 | 2 | 92% 482件中445件 |
| Location | テキスト | スーパーコンピューターが物理的に所在する具体的な場所。 | Oak Ridge National Laboratory 5200, 1 Bethel Valley Rd, Oak Ridge, TN 37830 | 84% 482件中406件 |
| Users | カテゴリ(複数選択) | スーパーコンピューターを利用していることが分かっている主要な主体。「Cloud」は、スーパーコンピューターがクラウド経由で一般に提供されていることを指す。多くの場合、所有者だけになる。 | US Government, Academia, Industry | 59% 482件中284件 |
| Quote | テキスト | チップの数と種類、および該当する場合は報告された、あるいは手作業で求めたFLOP/sの数値を示す、出典からの引用。 | このシステムは74台のOlympusラック型HPEキャビネットからなり、各キャビネットに128個のAMD計算ノード、合計9,408個のAMD計算ノードがある…… Frontierの各計算ノードは、512 GBのDDR4メモリを利用できる64コアのAMD「Optimized 3rd Gen EPYC」CPU[1個](物理コアあたり2ハードウェアスレッド)で構成される。各ノードにはさらにAMD MI250X[4個]が含まれる | 59% 482件中283件 |
| Note | テキスト | スーパーコンピューターについての補足的な背景や役に立つ情報を記した注記。 | (9408 nodes)x(4 GPUs/node) = 37,632 GPUs | 18% 482件中88件 |
| First Operational Date Note | テキスト | スーパーコンピューターが初めて完全に稼働した時期(つまり、クラスターの少なくとも80%でワークロードを実行できるようになった時期)。スーパーコンピューターが稼働を始めた正確な日付が発表されることはまれなので、多くの場合、1か月程度の精度の近似値になる。既定では、この日付は保守的に定め、稼働していたことを確認できた最初の日付とする。そのため、実際に初めて稼働した日の数か月後になることが多い。 | 2022-05-30 | 60% 482件中291件 |
| Certainty Note | テキスト | その確度の水準を選んだ理由の簡単な説明。 | 政府の公式ウェブサイトで詳細が公開された | 13% 482件中64件 |
| Builds Upon | カテゴリ(単一選択) | スーパーコンピューターが複数の段階に分けて建設された場合、前の段階に当たるスーパーコンピューターにリンクする。 | 6% 482件中29件 | |
| Superseded by | カテゴリ(単一選択) | スーパーコンピューターに後の段階があり(たとえば、後に更新された場合)、その段階がすでに稼働しているとき、その段階に当たるスーパーコンピューターのレコードにリンクする。 | 6% 482件中30件 | |
| Possible duplicate | 真偽値 | このスーパーコンピューターが、データベースにすでにあるスーパーコンピューターと重複している可能性が20%を超えると考えられる場合にTrue。2つのレコードが同じスーパーコンピューターに当たるかもしれない場合は、情報の多いほうのレコードをFalse、少ないほうをTrueとする(こうしておけば、利用者は分析の際に「Possible Duplicate」=Trueのレコードをすべて除外できる)。 | 0% 482件中0件 | |
| Possible Duplicate Of | カテゴリ(複数選択) | 「Possible duplicate」がTrueの場合、このスーパーコンピューターと重複していると考えられるレコードにリンクする。 | 0% 482件中0件 | |
| Chip type (secondary) | カテゴリ(単一選択) | スーパーコンピューターで使われている副次的なAIチップ(ある場合)。EpochのMLハードウェア・データベースの特定のチップにリンクしている。 | 3% 482件中16件 | |
| Chip quantity (secondary) | 数値 | スーパーコンピューターに含まれる副次的なAIチップの総数(ある場合)。 | NaN | 4% 482件中18件 |
| Total number of AI chips | 数値 | スーパーコンピューターに含まれるAIチップの数。{主たるAIチップの数量+副次的なAIチップの数量、手作業で求めたチップの総数、FLOP/sから計算したチップの数}のうち最大のもの。 | 37,632 | 90% 482件中435件 |
| GPU supplier (primary) | カテゴリ(単一選択) | 主たるAIチップの種類のGPU供給元。 | AMD | 100% 482件中482件 |
| GPU supplier (secondary) | カテゴリ(単一選択) | 副次的なAIチップの種類のGPU供給元(該当する場合)。 | 43% 482件中206件 | |
| Exclude | 真偽値 | そのレコードを分析から除外すべき場合にTrue。収録の閾値を下回っている場合や、ほかの理由で除外する場合がある。それ以外はFalse。 | 0% 482件中0件 | |
| Include in Standard Analysis | 真偽値 | このレコードが、元の論文で行った分析に使う条件を満たしている場合にTrue。つまり、(Status=“Existing”または“Decomissioned”) AND (Exclude=False) AND (Certainty = “Confirmed”または“Likely”) AND (Possible Duplicate=False) AND (Single Cluster?=“Yes”) の場合である。 | True | 100% 482件中482件 |
| Max OP/s | 数値 | スーパーコンピューターが達成できる理論上の最大の毎秒演算回数(32ビット、16ビット、8ビットの性能のうち最大のもの)。 | 1.4e+19 | 95% 482件中460件 |
| 8-bit OP/s | 数値 | スーパーコンピューターが8ビットの数値精度で達成できる理論上の最大の毎秒演算回数。 | 1.4e+19 | 49% 482件中237件 |
| 16-bit OP/s | 数値 | スーパーコンピューターが16ビットの数値精度で達成できる理論上の最大の毎秒演算回数。 | 1.4e+19 | 92% 482件中442件 |
| 32-bit OP/s | 数値 | スーパーコンピューターが32ビットの数値精度で達成できる理論上の最大の毎秒演算回数。 | 3.6e+18 | 82% 482件中397件 |
| Calculated Power Capacity (MW) | 数値 | チップの数と種類に基づいて計算した、スーパーコンピューターの電力容量(メガワット)。方法論の全体は論文を参照のこと。 | 40.066790399999995 | 87% 482件中417件 |
| Reported power capacity (MW) | テキスト | 報告されたスーパーコンピューターの電力容量(メガワット)。 | 40 | 17% 482件中80件 |
| Calculated Cost | 数値 | チップの数と種類に基づいて計算したコスト(2025年の米ドル換算)。方法論の全体は論文を参照のこと。 | $967,488,702.64 | 80% 482件中384件 |
| Reported Cost | 数値 | 報告されたスーパーコンピューターの総コスト(当時の米ドル)。 | $600,000,000 | 6% 482件中28件 |
| Reported Cost (Inflation adjusted) | 数値 | 報告されたスーパーコンピューターの総コストを、2025年の米ドルに換算したもの。 | $620,445,966.19 | 6% 482件中28件 |
| Cost Quote | テキスト | スーパーコンピューターのコストを述べた、出典からの引用。ドル以外の通貨の場合や、まだインフレ調整されていない場合がある。 | $600M | 6% 482件中27件 |
| Largest existing cluster when first operational | テキスト | このスーパーコンピューターが初めて稼働した日に存在していた、既知の最大のスーパーコンピューターの名称。 | Microsoft GPT-4 cluster | 92% 482件中445件 |
| % of largest cluster when first operational | 数値 | このスーパーコンピューターの理論上の最大FLOP/s(32ビット、16ビット、8ビット)を、その時点で存在していた既知の最大のスーパーコンピューターの理論上の最大FLOP/sで割ったもの。 | 0.9239138461538378 | 92% 482件中445件 |
| Source 1 (through Source n) | URL | AIスーパーコンピューターに関する出典のURL。リンクを保存するため、通常はWayback Machineのリンクとして保存している。 | 59% 482件中286件 |