トピック概観

AIデータセンターについて知っておくべきこと

原題:What you need to know about AI data centers

はじめに

AIデータセンターの歴史的な規模を実感するのは難しい。人類がこれまでに作った中でも最大級のインフラ事業なのである。

規模の感覚をつかむために、OpenAI の Stargate Abilene データセンターに必要になるものを考えてみよう。

  • シアトルの人口をまかなえるだけの電力1
  • GPT-4 を学習したスーパーコンピュータの250倍を超える計算能力2
  • サッカー場450面分より広い土地3
  • 320億ドルの建設費とIT機器の費用
  • 数千人の建設作業員4
  • 約2年の建設期間5

しかも、これは全体像のごく一部にすぎない。企業は現在、Stargate Abilene のようなデータセンターを他にも数多く建設している。62027年末までに、AIデータセンターには全体で数千億ドルの投資が集まる可能性があり、これはアポロ計画やマンハッタン計画に匹敵する。

このことから、たとえば次のような多くの疑問が生まれる。

  • なぜこれほど巨大なデータセンターが必要なのか?
  • インフラ事業として、何がそれほど特別なのか?
  • どこに建設されているのか?
  • それを動かす電力をどう確保するのか?
  • そして、これらすべては気候、AI政策、AIの未来にとって何を意味するのか?

以下では、これらの問いを一つずつ検討する。

電力:AIデータセンターについて知っておくべき最も重要なこと

電力がAIデータセンターの建設地を決める

AIデータセンターとは、AIシステムを学習させたり動かしたりするためのコンピュータを詰め込んだ建物群にすぎない。AIデータセンターが独特なのは、計算資源(単に「コンピュート」と呼ばれることも多い)に対するAIの膨大な需要を支えるために、巨大でなければならない点だ。仮に xAI の Grok 4 を2024年の iPad Pro で学習できたとしても、終えるまでに数十万年かかるだろう。7しかも、フロンティアAIモデルの学習に使われる計算量は年約5倍で増えている。

これほどの計算資源を扱うので、AIデータセンターには膨大な電力が必要になる。つまり、少なくとも今後数年間は、AIデータセンターの大半は、その電力を供給できる一握りの国に建設されることになる。

実際にはどれほどの電力なのか。米国では、AIデータセンター全体で2027年末までに約20〜30ギガワット(GW)の電力が必要になる。これを相対的に見ると、30 GWは米国の現在の平均発電容量の約5%、中国の約2.5%にあたる。これらの大きな電力網にとって、大きくはあるが対応可能な割合である。

他のほとんどの国では、30 GWは総電力のうち持続不可能なほど大きな割合を占めることになる。日本では発電容量の約25%、フランスでは50%、英国では90%にあたる。8だからといって、これらの国がギガワット級のデータセンターをいくつか建設したり、フロンティアの研究所を受け入れたりできないわけではなく、9電力供給の総量を増やせる可能性もある。それでも、AIの電力需要を満たすのは、中国と米国のほうがおそらく容易だろう。

電力需要は、一国の中でギガワット級のデータセンターをどこに建設できるかも制約する。米国では、企業はテキサス州のように天然ガスが豊富で規制上の「お役所仕事」が少ない州に、こうした施設を建設しようと計画している。そのほうが、1か所に何ギガワットもの電力を引き込みやすいからだ。

米国で最も計算資源を集中させるAIデータセンターのいくつかは、一般に電力を確保しやすい中西部と南部に建設が計画されている。これらの州は、天然ガスが手に入りやすく、規制上の「お役所仕事」が少ない傾向にある。

AIデータセンターの建設地にとって、他の要因ははるかに重要度が低い傾向にある。10たとえば、データをエンドユーザーにすばやく届けられるよう、データセンターは大都市の近くに置く必要があると考える人もいるかもしれない。しかし、物理的な距離は驚くほど重要ではないことがわかっている。モデルがユーザーのリクエストを処理するのにかかる時間は、データが地球の裏側まで送られるのにかかる時間より何桁も長いのである。たとえデータセンターを月に置いたとしても、モデルの処理時間のほうがデータの通信時間より長いかもしれない!11

自動運転車やAIで動くビデオゲームのように、データ転送時間が短くなければならない用途もあるかもしれない。しかし、言語モデルの学習や実行など多くの場合には、データ転送の速さはそれほど重要ではない。

電力はどこから来るのか

もちろん、2027年末までに米国だけでAIデータセンター全体が20〜30 GWを使うとすれば、その電力はどこかから調達しなければならない。では、どこからか。

主な電力源として、企業はデータセンターを電力網に接続するとともに、データセンターを支える新しい発電所を建設する。同じデータセンターで両方を行うことも多い。12たとえば Stargate Abilene は、当初は敷地内の天然ガス発電に頼り、その後、電力供給を拡大するために電力網に接続する。

電力需要が急増したときや主な電力源が停止したときには、データセンターは予備の電源、典型的にはディーゼルに頼る。13これによって、AIデータセンターは常に十分な電力を確保でき、巨額のIT機器への投資を最大限に活用できる。

多くの発電所は天然ガスタービンを使っている。14OpenAI の Stargate や Meta の Hyperion といったデータセンターを支えるものもそうだ。天然ガスがとりわけ人気なのは、比較的安く、一日中供給でき、発電所をかなり早く建設できるからである。15これには、規制のせいで(石炭のような)より汚いエネルギー源を大規模に使いにくくなっていることも一因としてある。16

長期的には、企業はこうしたデータセンターの一部を、より再生可能なエネルギー源と蓄電に移行させる計画である。たとえば Stargate は、電力網との接続をますます強め、テキサス州の豊富な風力発電への依存を高めていく可能性が高い。もう一つの例は Goodnight データセンターで、テキサス州クロード(Claude。Anthropic の Claude とは無関係)の風力発電所の近くに建設される予定である。

もちろん、こうした計画は放棄されるかもしれないし、17計画が何を意味するのかが必ずしも明らかとは限らない。
たとえば Microsoft は、Mount Pleasant データセンターの計画の一環として250メガワットの太陽光発電事業を建設するつもりである。しかし、その太陽光発電はデータセンター自体のためのものではない。主な電力源である天然ガスの電力に見合う量の「カーボンフリー」な電力を追加で用意するためのものである。

AIデータセンターの何がそれほど特別なのか?

AIデータセンターは電力密度が際立って高い

この電力はすべてIT機器を動かすために使われる。IT機器は、データセンター全体で群を抜いて最大のエネルギー消費源であり、最大の費用でもある。しかし重要なのは電力の総量だけではない。AIデータセンターが際立っているのは、小さな体積の中で大量の電力を使う点だ。つまり、電力密度が非常に高いのである。

電力密度が際立って高い理由は、AIデータセンターの構造にある。GPUやCPUのようなコンピュータチップが互いにすばやくデータをやり取りできるよう、チップは縦長の棚のような「サーバーラック」に密集して詰め込まれている。1台のラックには数十基のGPUを詰め込める。たとえば、NVIDIA の業界標準の NVL72 GB200 は72基のGPUを収める。18

NVIDIA の NVL72 サーバーラックには72基の Blackwell GPU が収められ、ラック上に列をなして密集して並んでいる。出典:Travis P Ball/Sipa USA via Reuters Connect

しかし、IT機器を密集させるには代償が伴う。上の画像からわかるように、各ラックはそれほど大きくない。高さは2メートル強、断面積は約0.5平方メートルである。その小さな体積の中で、プロセッサは100キロワット(kW)を超える電力を使う。これは米国の家庭100軒分をまかなえる電力だ!

その結果、電力密度がとてつもなく高くなる。これこそがAIデータセンターを本当に際立たせている点だ。AIに使われないデータセンターは一般にラックあたり10 kWを使っており、NVL72 のラックの約10分の1である。

巨大な電力密度には独特な冷却システムが必要になる

これほど電力密度が高いと、IT機器は過熱し始め、性能が落ちる。そこでデータセンターは機器を冷却するように設計されている。では、どうやって冷やすのか。

現代のAIデータセンターは液冷を使っている。IT機器に取り付けた金属プレートの中に液体の冷却剤を流し、熱を冷却剤に移すのである。冷却剤はその後サーバーラックから出て、熱を水に移す。その水はIT機器の部屋の外へ流れ出て、専用の冷却設備によって熱を屋外に放出する。

液冷のためにGPUに取り付けるプレートの例。冷却剤は一方の口から流れ込んでもう一方の口から流れ出し、データセンターの主冷却設備で熱を水に移す。出典:jetcool

水から熱を放出する一般的な方法は二つある。19一つ目は、水冷式のチラー(冷凍機)と蒸発式の冷却塔を使う方法だ。チラーは冷蔵庫のように働き、内側を流れる水から、外側を流れて冷却塔に入る別の水のループへ熱を移す。冷却塔は、その熱い水を外気にさらす。最後に、私たちの汗が蒸発して体を冷やすのと同じように、水が蒸発して冷却効果を生む。

二つ目の方法は、空冷式のチラーを使うものだ。水冷式チラーと同じく、空冷式チラーも冷凍サイクルを使って、データセンターの水から外気へ熱を移す。ただし空冷式チラーは、外側の水のループを使う代わりに、冷凍機のコイルの上に空気を直接吸い込んで冷やす。この方法では水が蒸発して失われないので、はるかに多くの水を再利用できる。

電力密度がずっと低いデータセンターには、こうした手の込んだ設備は必要ない。そうしたデータセンターでは通常、大型のファンと空調機で熱を処理している。しかし空気は熱を効率よく「吸い取る」のに向いていないので、AIデータセンターではこうした方法は通用しない。20このような条件で熱を取り除くには、液体の冷却剤と水のほうがはるかに優れている。AIデータセンターは大量の水を使うとよく言われるのはこのためである。

これらすべてはAIの進歩と政策にとって何を意味するのか?

AIが気候全体に与える影響は(まだ)それほど大きくない

AIデータセンターは大量の電力と水を使うのだから、環境に大きな悪影響を与えているのではないか。

現実的に見て、AIはまだ、気候全体に影響を与えるほどの電力や水を使っていない。AIデータセンターは全体で米国の総電力の1%を使っているが、21これは空調(12%)や照明(8%)よりはまだかなり少ない。

水についても話は同様である。米国のデータセンターが2023年に直接使った水は約174億ガロンだったが、農業が使った水は36.5兆ガロン近くにのぼり、約2,000倍である。22

とはいえ、エネルギーの供給力が乏しい地域では、AIデータセンターが地域に大きな影響を与える可能性はある。また、化石燃料に頼り続けるなら、いずれAIデータセンターが気候変動に大きく寄与し始めるかもしれない。なにしろ私たちの予測では、AIデータセンターは2027年に米国の総発電量の5%を必要とする可能性があり、データセンターの建設はその後も続くかもしれないのである。

全体として、AIがこれまでのところ気候全体に影響を与えてきた可能性は非常に低いと私たちは考えている。しかし、この傾向が続けば、今後10年のうちに状況は変わるかもしれない。

今後2年間、企業がAIの学習を分散させる必要はおそらくない

データセンターは十分に速く成長しているので、少なくとも今後2年間は、分散学習は必要ない。

現在の傾向からすると、2年後の最大のAI学習には、H100換算で約250万基のGPUが必要になる。23一方、OpenAI/Microsoft の Fairwater データセンターは、その2倍の計算能力を持つことになると私たちは推定している。したがって、一つのデータセンターで学習のスケーリングを続けるのに十分な計算資源がある。

しかし、企業が実際にそうするかどうかははっきりしない。一方では、一つのデータセンターで学習すれば建設費を減らせるかもしれない。24学習も簡単になるかもしれない。たとえば、複数のデータセンターにまたがるネットワークでは故障しうる箇所が増え、学習の信頼性が下がりかねない。他方では、異なる場所にまたがる分散学習のほうが、余剰の電力容量を吸収しやすい。

データセンターは集中型の学習を続けられるだけの速さで成長しているので、今後2年間はそれが引き続き標準になるというのが私たちの最善の推測である。ただし、そうなるかどうかはまったく明らかではない。

ギガワット級のAIデータセンターの安全を確保するのは難しい

これに関連して、AIデータセンターのセキュリティについて多くの議論がある。データセンターの機密情報が漏れるのではないかと懸念する人もいるが、これを完全に防ぐのは難しい。先に見たように、ギガワット級のデータセンターの建設には、複数の組織から何千人もの人が関わることが多い。全員の身元を確認するのは大変だ!

データセンターの場所を隠すのも難しい。大がかりな冷却システムは大きくて見逃しようがなく、衛星画像で特定することさえできるからだ。25巨大なチラーがずらりと並んだ建物を見かけたら、それはデータセンターである可能性が高い。

たとえば Stargate の衛星画像を見ると、データセンターの建物が稼働を始めるにつれて、その周りを冷却設備が囲んでいる様子がはっきりわかる。

OpenAI の Stargate Abilene データセンターを拡大すると、データセンターの建物(白/オレンジ)を冷却設備の列(黒)が囲んでいるのがわかる。出典:Airbus 撮影、Apollo Mapping 提供。

したがって、AI開発を「マンハッタン計画」になぞらえるよくある比喩は、いくぶん的外れである。これほどの規模の事業を世界の他の国々に秘密にしておくのは、はるかに難しいのである。

結論

今後数年間、データセンターはAIの進歩の鍵となるので、それをよく理解しておくことが決定的に重要である。中心にあるのは規模であり、注目すべき最も重要な指標は電力だ。電力は、データセンターがどこに建設されるか、どの国がフロンティアAIの開発についていけるかを決めるうえで大きな役割を果たし、データセンターを世界から隠すことも難しくしている。

しかし、もちろん未解決の問いはまだ多い。たとえば、データセンターが建設された後、その中の計算資源を誰が使っているのかは確かにはわからないことが多い。また、各国がどのような行動をとるかもわからない。たとえば、電力容量の乏しい国は、AIデータセンターの大規模な建設にどう向き合うのだろうか。

これらの問いについては、成り行きを見守るしかない。

この記事にフィードバックをくれた Josh You、Jaime Sevilla、David Owen、Clara Collier、David Atanasov、Isabel Juniewicz、Cody Fenwick に感謝する。

注

注
  1. シアトルは年間約900万MWhのエネルギーを使っており(リンク先の報告書の96ページを参照)、これは平均で (9 × 10^12) / 365 / 24 = 1 GWの電力に相当する。↩

  2. GPT-4 はおそらく25,000基の A100 GPU からなるクラスタで学習された。各GPUの性能は約3 × 10^14 FLOP/sで、全体では約7.5 × 10^18 FLOP/sとなる。これに対して Stargate Abilene のクラスタの計算能力は2 × 10^21 FLOP/sと推定されており、250倍を超える。↩

  3. サッカー場1面は0.00714平方キロメートルである。アビリーンにある OpenAI の Stargate の施設は、875エーカー、つまり3.5平方キロメートルの敷地に建設されている。↩

  4. 2025年7月、OpenAI の Stargate データセンターの現場には約3,000人の作業員がいた。↩

  5. Crusoe は、建設開始から2年後にアビリーンのデータセンター群を1.2 GWまで拡大する計画である。これが大幅に前倒しされる可能性も十分にある。xAI の Colossus 1 クラスタは、完成まで2年かかると言われていたにもかかわらず、122日で建設されたと報じられている。↩

  6. 来年初めには、世界初のギガワット級AIデータセンターが登場する可能性が高い。その主な候補は、Anthropic と Amazon の Project Rainier、xAI の Colossus 2、Microsoft の Fayetteville、Meta の Prometheus、OpenAI の Stargate である。↩

  7. Apple の2024年の iPad Pro には、AIに特化した「ニューラルエンジン」が搭載されており、毎秒約38兆回の演算を行う。これに対して xAI の Grok 4 モデルの学習には約500兆×1兆回の演算が使われた。したがって、学習には合計で約40万年かかることになる! 実際にはメモリの制約のためにそもそも不可能だろうが、この計算は、フロンティアAIモデルの学習にどれほど多くの計算資源が必要になりうるかを示している。↩

  8. これらの推定値は、各国の2024年の報告された発電量に基づいている。↩

  9. 私たちが知る限り最大の計画中のデータセンターは Microsoft Fairwater で、3.3 GWの電力が必要になると推定している。これは全体で30 GWという推定値の約10分の1なので、米国の電力の約0.5%、中国の0.25%、日本の2.5%、フランスの5%、英国の9%を必要とすることになる。国全体の水準ではより対応しやすいが、この電力を狭い地域に供給するのはやはり難しいだろう。↩

  10. その他の要因には、地形の傾斜、土地が連邦政府の所有かどうか、「ソブリンAI計算資源」への需要などがある。↩

  11. その理由を確かめるために、テキサス州で言語モデルを動かしているとして、ニューヨークと東京のユーザーに届くまでにどれくらいかかるかを見てみよう。信号を光速の3分の2(つまり200,000 km/s)で送れるとし、テキサス州とニューヨークの距離を約2,500 kmとすると、応答がユーザーに届くまでには約 2,500 km / (200,000 km/s) = 12.5ミリ秒かかる。テキサス州と東京の距離は約10,000 kmなので、移動時間は約4倍になる。これに対して、現在のフロンティアモデルは毎秒約100語を生成するので、約1,000語の典型的な応答を生成するには10秒程度かかる。これは12.5ミリ秒のほぼ1,000倍の長さである。たとえデータセンターを月に置いたとしても、レイテンシは約2秒にすぎない。↩

  12. AI開発者がどうしても電力を必要としているときには、さらに別の方法も使える。「データセンターの柔軟性」と呼ばれるもので、電力需要のピーク時に、全時間の約1〜5%の間データセンターの負荷を大幅に下げる代わりに、本来なら利用できなかった電力を使えるようにするものである。停電のリスクが減り、地域の電力網の負担も軽くなるので、電力供給者もこの取り決めから恩恵を受ける。↩

  13. たとえば、Anthropic の Project Rainier のデータセンターの一つの計画には、238台の「ディーゼル燃料の重要非常用発電機」が含まれている。↩

  14. 天然ガスタービンは、圧縮空気の中で天然ガスを燃やしてタービンを回し、発電する。↩

  15. 米国エネルギー情報局は、さまざまなエネルギー源を使う発電所の例を約20件報告しており、キロワットあたりで最も安い発電所は天然ガスを使っている(数値の全体はこのスプレッドシートにある)。↩

  16. たとえば、ディーゼルは予備電源としては一般的だが、AIデータセンターではあまり使われてこなかった。これはおそらく大気浄化法の第V編のためである。同編は、年間100トンを超える汚染物質を排出する施設に、大がかりな許認可の要件を課している。ギガワット級の発電機を備えたデータセンターでは、わずか数時間の運転でこの上限に達してしまうことがあり、事実上ディーゼルは短時間の予備の役割に限られる。とはいえ、この種の許認可のボトルネックを回避できることもある。たとえば xAI は、許可を得る前に多数の天然ガスタービンを配備した可能性がある。↩

  17. 計画が変わった前例はすでにある。たとえば Crusoe の Goodnight データセンターは最近、建設計画を縮小し、建物を7棟からわずか3〜4棟に減らした。↩

  18. これには36個の「Grace Blackwell Superchip」が含まれており、それぞれが2基の Blackwell GPU と1基の Grace CPU で構成されていることに注意。↩

  19. 三つ目の方法は「熱い水を川に流す」ことだが、これは地域の水生生物に害を与えうるもので、米国では水質浄化法で規制されている。↩

  20. たとえて言えば、熱い鍋は、冷たい空気を吹きかけるより冷たい水をかけたほうがずっと早く冷える!↩

  21. 現在、米国のAIデータセンターは全体で約5 GWの電力を使っており、これに対して米国の総電力容量は約500 GWである。↩

  22. 2023年に農業は1日あたり1,000億ガロンの水、つまり年間で36.5兆ガロンの水を使った。↩

  23. Grok 4 は約H100換算10万基のGPUで学習され、フロンティアモデルの学習計算量は年5倍で増えている。したがって、2年以内に約250万基のGPUからなるクラスタが必要になる。ただし、時間とともに学習期間が長くなる可能性があるので、実際にはこれより少なくて済むかもしれない。↩

  24. たとえば、異なる場所に1 GWのデータセンターを五つ建てるより、5 GWのデータセンターを一つ建てるほうが安いかもしれない。たとえば1か所に建てるなら、その1か所について規制当局の承認を得るだけでよいが、複数の場所に建てるなら、承認を何度も得なければならない。↩

  25. 冷却システムは、水蒸気を放出したり熱い空気を排出したりするために、大気にさらしておくことが重要である。電力密度が非常に高いので、建物の側面から空気を吹き出すだけでは足りず、冷却設備を屋外に置かなければならない。↩

← 論文・レポート一覧へ

非公式の日本語訳公式ページ(英語):epoch.ai/publications/what-you-need-to-know-about-ai-data-centers