中国が計算資源で西側を一気に追い抜くことはない理由

中国はAIの計算資源で西側に追いつきつつある、という話をよく耳にする。その好例が NVIDIA の CEO、Jensen Huang の発言だ。彼は最近、中国はここ数年で「とてつもない進歩」を遂げ、「中国は私たちのすぐ後ろにいる。本当に、本当に迫っている」と主張した。

そして実際、中国は大きな進歩を遂げてきた。後で見るように、中国のハードウェアは、演算能力とデータ転送に関わるさまざまな指標で差を縮めてきた。どちらもAIのワークロードにとって決定的に重要な要素である。

しかし、こうした進歩があっても、中国がAIの計算資源で西側を一気に追い抜こうとしているとは、私たちは考えていない。Alibaba、ByteDance、Baidu、DeepSeek をはじめとする中国のトップ開発者は、依然として主に NVIDIA のチップに頼っている。そして中国が一気に追い抜くまでには、まだ大きな障害が残っている。

第一のボトルネックはチップの製造にある。米国の半導体製造装置の輸出規制によって、フロンティアモデルの学習と推論実行に必要な大規模なチップ生産を中国が行うには、より多くのコストがかかるようになっている。

第二のボトルネックは、中国のソフトウェアのエコシステムが弱いことにある。NVIDIA の CUDA スタックとは違い、中国のチップが動くエコシステムはバグが多く、文書が不十分で、不安定である。

その結果、少なくとも今後数年間は、中国の開発者は西側のチップが手に入るならそれでモデルを学習することを引き続き好むだろうと私たちは考えている。ただし、西側のチップの入手が難しいときに、コスト面の不利を承知で性能の劣る中国製チップで学習する可能性はある。

Epoch AI の最新情報を受け取る 購読する

数字の上では、中国のハードウェアは差を縮めている

AI開発者は、より優れたAIシステムを学習させ、動かしたいと考えている。その大部分を占めるのが、より優れたAIハードウェアを使うことだ。つまり、大量のデータを処理するために、より強力なチップとより優れたインフラを使うということである。

ここ数年で見えてきたのは、こうした面では西側のハードウェアが依然として優れている一方で、中国のハードウェアが差を縮めているということだ。

演算能力を例にとろう。2017年以降、中国製チップと中国製以外のチップのいずれも、毎秒の浮動小数点演算回数（FLOP/s）が指数関数的に伸びてきた。¹2018年には中国と西側のシリコンの間に1桁の開きがあったが、この差は今日では3倍にまで縮まっている。これは、中国の最先端GPUである Huawei の Ascend 910C と、西側の最先端GPUである NVIDIA の B200 との差である。²データセンター向けGPU BR100 の発売時には、中国製チップが一時的に首位に立ったことさえある。BR100 は、発売時点で市場最速のチップだったとされる。³

演算のコストを考慮しても、同様のパターンが見られる。中国のハードウェアは、入手できる数量こそ少なかったものの、これまでコスト面では西側のハードウェアと競争できていた。たとえば、Huawei の Ascend 910B は演算性能では NVIDIA の H100 の3分の1だったが、価格も3分の1だった。この二つのGPUはいずれも2022年に発売されたので、同じ年に同じ価格性能比だったことになる。⁴

しかし、演算に注目するだけでは話の半分にすぎない。西側と中国のハードウェアを公平に比べるには、そのハードウェアがどれだけうまくデータを転送できるかも考える必要がある。AIのワークロードでは一般に、さまざまなハードウェア部品にまたがって膨大な量のデータを処理するので、これは決定的に重要である。

この過程の一段階が、チップのメモリと演算ユニットの間でデータを移動させることだ。このデータ転送が起こりうる最大の速度はメモリ帯域幅と呼ばれ、長いコンテキストの入力や出力でAIシステムを動かす場合にとりわけ重要になる。

この指標でも、中国のハードウェアは差を縮めている。現在は西側のチップがリードしており、NVIDIA の B200 のメモリ帯域幅は Huawei の Ascend 910C のほぼ2倍である。⁵しかし中国製チップのメモリ帯域幅は2017年から2025年にかけて年約24%の割合で向上しており、同じ期間に中国製以外のチップが達成した年約13%の伸びを上回っている。この急速な向上が続けば、早ければ次世代のデバイスでメモリ帯域幅が並ぶ可能性もある。⁶ただし、広帯域メモリ（HBM）に対する最近の輸出規制が、追いつくうえでの障害になっている。

データ転送のもう一つの決定的に重要な側面は、チップ間で起こる転送である。この転送の最大速度であるインターコネクト帯域幅は、学習中にチップがデータ待ちで時間を使いすぎないように、高くなければならない。

他の指標と同じく、現在は西側のハードウェアがリードしている。NVIDIA 独自の NVLink 技術は、Ascend 910C で使われている PCIe 4.0 規格より10倍以上速い。⁷これに対処するため、Huawei は最近、Unified Bus という独自の技術を開発し、CloudMatrix 384 システムでチップのネットワークをつなぐのに使っている。この独自ネットワークの帯域幅は NVLink の半分にも満たず、主流の機械学習フレームワークによるサポートも NVIDIA のインターコネクトのスタックほど充実していない。それでも傾向は変わらない。中国のハードウェアは追いつきつつある。

中国は国産AI計算資源の大きなボトルネックをまだ克服しなければならない

実際には、西側のチップへの依存が続いている

こうした改善があり、NVIDIA 製品の輸入も大幅に制限されているのに、中国の主要なAI開発者の間で国産チップが主流になったことは一度もない。

このことは、中国の注目すべき機械学習モデルに関する私たちのデータを見るとわかる。2017年から2024年の間に公開された130の言語モデルに絞ると、その90%超が西側のハードウェアで学習されていた。⁸

米国、オーストラリア、英国の機関との共同事業（開発者が外国製のシリコンを利用できる場合）を除いても、国産モデルの明らかな大多数は NVIDIA のGPUに頼っていた。実際、全面的に中国製のハードウェアで学習されたと報じられた最初のモデルが公開されたのは、西側のハードウェアで何年もモデルを学習してきた後の、2024年1月になってからだった。⁹

製造の制約と輸出規制

西側のハードウェアが優勢である最も重要な理由は、おそらく、中国がこうしたAIチップを十分な量で製造できていないことだ。報道によれば、Huawei が2024年に製造した Ascend 910B チップは20万個だったが、同じ年に中国に合法的に納入された NVIDIA のGPUはおよそ100万個だったと推定されている。これらの NVIDIA のチップの大半は H800 と H20 のGPUで、輸出規制の基準値を下回るよう、西側の最高のチップより性能を落としてある。さらに、数万個の高性能な NVIDIA のGPUが、第三国経由や違法な経路でおそらく密輸された。とはいえ、ByteDance、Alibaba、Tencent など中国の主要AI企業からの注文が多いことからわかるように、これらのチップは中国の開発者にとって依然として明らかに魅力的な選択肢である。¹⁰

もちろん、Huawei はこうしたボトルネックを回避するために計算資源の生産を拡大しようとしている。報道によれば、Huawei は2025年に Ascend 910（BおよびC）を40万個生産することを目標にしており、2025年後半に投入が予定されている Ascend 920 のような新しいチップも計画している。¹¹しかし、この国内供給は、スケーリングの最前線でモデルを学習するには不十分である。さまざまなAI開発者に分散しており、¹²欠陥も多い傾向にあるからだ。これらの要因によって、大規模な学習は不可能ではないにせよ、はるかに難しくなる。

中国の計算資源の入手状況をさらに厳しくしているのが、ここ数年で導入された輸出規制である。これらの輸出規制以前から、NVIDIA は90%の市場シェアで中国のAI計算資源をすでに支配していた。¹³そしていま中国は、チップ生産の重要な投入物に対する規制にも対処しなければならない。

チップ生産の投入物の一つが、半導体製造装置（SME）である。こうした装置の代表例が、半導体チップに回路設計を焼き付けるのに使われる先端的な露光装置で、ほぼすべてがオランダの ASML 社によって作られている。外国のSMEを入手できなければ、SMIC のような中国国内の製造企業は追いかける立場に置かれる。¹⁴こうしたチップ製造装置は完璧ではなく、生産されたチップのうち実際に動作するのは一部にすぎないことを考えてみよう。この割合は「歩留まり」と呼ばれ、劣った装置を使うと低下する。したがって、TSMC の90%と比べて、SMIC の歩留まりが50%未満と報じられているのは驚くことではない。¹⁵これほど歩留まりが低いと、こうした中国製チップは経済的に成り立ちにくくなり、この財政的な負担を軽くするには国の支援が必要になる。¹⁶

こうした財政的な課題に追い打ちをかけるのが、米国と台湾の輸出規制の他の側面である。これらは、TSMC が中国本土の企業に代わって先端チップを製造することを制限している。¹⁷米国の輸出規制はまた、世界中のどこであれ中国製AIハードウェアの使用を事実上ブラックリストに載せている。そのため中国企業にとって、Huawei のチップを採用するのはリスクが高い。その結果として米国の制裁を受けるおそれがあるからだ。

ソフトウェアのエコシステムの差

ハードウェアの課題に加えて、中国のAIチップは、西側のチップよりはるかに未成熟なソフトウェアのエコシステムの中に置かれている。

一方には、GPUをまたいで学習を行うためのソフトウェアのエコシステムである NVIDIA の CUDA がある。CUDA は15年以上にわたる文書整備と改良、大きなユーザー基盤、そして PyTorch や TensorFlow のような普及した機械学習フレームワークとの強固な統合の恩恵を受けてきた。

もう一方には、Huawei の CANN フレームワークがある。これは CUDA の12年後の2019年にようやく導入されたものだ。開発者からはよく、バグが多く、不安定で、文書が不十分だと言われており、実行時のクラッシュが頻繁で、サードパーティとの統合も限られている。¹⁸

こうした問題があっても、中国の開発者が中国製ハードウェアで大規模な学習を行えないわけではないが、そのコストは確実に高くなる。実際こうした問題から、中国の機械学習チームの多くはハイブリッドな方法をとるようになった。推論実行のワークロードには Huawei の Ascend チップを活用し、限られた NVIDIA のGPUは大規模な学習パイプライン用にとっておくのである。¹⁹

中国はこれらのボトルネックを克服するか？

ここまで私たちは、中国のハードウェアは追い上げてきたものの、チップ製造とAIソフトウェアのエコシステムにボトルネックがあるため、限られた範囲でしか使われてこなかったと論じてきた。しかしそうなると、大きな問いが残る。中国は近い将来、これらのボトルネックを克服するのだろうか。

チップを作るのに必要な先端的な露光装置やメモリが手に入らなければ、中国の製造企業は西側を追いかける立場に置かれ続けるだろう。たとえ輸出規制が緩和されても、中国のアクセラレータのソフトウェアのエコシステムが未成熟であることが、もう一つの深刻なボトルネックになる。中国はソフトウェアで肩を並べ、サプライチェーンを国産化しようとしているが、巨額の補助金があっても、それぞれの障害を克服するには何年もの取り組みが必要になる。

端的に言えば、今後数年のうちに中国が計算資源で一気に追い抜くとは私たちは考えていない。中国は、チップ製造とソフトウェアのエコシステムの大きな障害を克服しなければならないだけでなく、自社のチップ製造インフラやハードウェアの研究開発に巨額の投資をしている外国企業を上回らなければならない。輸出規制が骨抜きになるか、中国政府が複数の技術的課題を記録的な速さで解決するかしない限り、中国はハードウェアで少なくとも1世代は遅れたままだろうと私たちは考えている。これで中国の開発者がフロンティアAIモデルを学習させ、動かすことができなくなるわけではないが、コストははるかに高くなる。全体として、このコストは、少なくとも2020年代の残りの期間、中国をAIのスケーリングでかなり不利な立場に置くほど大きいと私たちは考えている。

編集上の助言をくれた Tharin Pillay、Lynette Bye、Anson Ho に、また私たちの研究と結論を練り上げるのを手伝ってくれた Erich Grunewald、Mary Clare McMahon、Yafah Edelman に感謝する。

付録

年	西側のチップ	中国のチップ
2017	NVIDIA V100	—
2018	NVIDIA V100	—
2019	NVIDIA V100	Huawei Ascend 910A
2020	NVIDIA A100	Huawei Ascend 910A
2021	AMD MI250X	Huawei Ascend 910A
2022	NVIDIA H100	Huawei Ascend 910B Biren BR100*
2023	AMD MI300X	Huawei Ascend 910B Biren BR100*
2024	NVIDIA B200	Huawei Ascend 910C
2025	NVIDIA B300	Huawei Ascend 920**

表1：各年の西側と中国の最先端チップの年表。

*TSMC のウェハーに対する輸出規制のため購入できない。

**正確な仕様は未公表。

名称	発売年	FP16性能（TFLOP/s）	価格性能比（GFLOP/s/$）	熱設計電力（W）	エネルギー効率（FP16 GFLOP/J）	メモリ（GB）	メモリ帯域幅（GB/s）	インターコネクト帯域幅（GB/s）
NVIDIA V100	2017	125	6.7	300	416	16/32	900	300
NVIDIA A100	2020	312	13	400	780	40/80	1500	600
NVIDIA H100	2022	989	22	700	1413	80/96	3300	900
NVIDIA B200	2024	2250	64	1000	2250	192	8000	1800
NVIDIA B300	2025	2500	*	1200	2083	288	8000	1800
AMD MI250X	2021	383	26	500	766	128	3200	800
AMD MI300X	2023	1307	87	750	1743	192	5300	892
Huawei Ascend 910A	2019	256	*	310	826	32	1280	270
Huawei Ascend 910B	2022	376	22	400	940	32	1600	392
Huawei Ascend 910C	2024	752	29	700	1142	128	3200	540
Biren BR100	2022	1024	*	550	1861	64	1640	412

表2：主な機械学習ハードウェアの仕様。²⁰

*ハードウェアの価格は入手できない。