7種のチップ・5種のラック エヌビディアがAI半導体競争を「データセンター全体」に広げる
アマゾン・グーグルが独自チップ投入も…競争の舞台は「GPUの外」へ「Vera Rubin」、7種のチップ・5種のラックでデータのボトルネック削減
人工知能（AI）半導体の競争でエヌビディアを追い抜くには、高性能なGPU（画像処理半導体）を作るだけでは不十分だとの分析が出ている。エヌビディアがCPU（中央処理装置）や推論アクセラレーター、ストレージ、ネットワークまで一つのシステムとして設計し、競争の範囲をGPUからAIデータセンター全体へ広げているためだ。
米IT専門メディアのテッククランチは29日（現地時間）、エヌビディアの競争力はもはやGPUの性能だけでなく、大規模AIデータセンターにおける演算とデータの流れを効率的に制御する能力にもあると分析した。
アマゾンやグーグルなどの大手クラウド企業が独自のAIチップを開発し、GPU市場での競争は激化しているものの、演算、メモリ、ストレージ、通信機器を一体的に最適化することは依然として難しいという。
テッククランチがこうした分析を示したきっかけは、エヌビディアが26日に発表した決算だった。
エヌビディアの7月26日までの四半期（同社の2027会計年度第2四半期）の売上高は962億ドル（約15兆3,700億円）と、前年同期比106％増加した。データセンター部門の売上高も890億ドル（約14兆2,200億円）に達し、117％増となった。
テッククランチが特に注目したのは、量産段階に入った次世代AIプラットフォーム「Vera Rubin（ベラ・ルービン）」の構造だ。
AIデータセンターがギガワット級の電力を消費するほど大型化するにつれ、連携させる必要があるGPUやCPU、メモリ、ストレージの数も大幅に増えている。
必要なデータを適切なタイミングで移動させることは小規模なデータセンターでも重要だが、設備や処理するデータ量が増えるほど転送経路は複雑になり、データの「ボトルネック」が発生しやすくなる。
必要なデータの到着が遅れれば、高価なGPUが待機する時間が増え、システム全体の処理効率が低下する。
そのため、AIインフラの効率競争も、単純にGPUの演算速度を競う段階から、データセンター全体で同じ電力を使ってどれだけ多くの処理を実行できるかを競う段階へ移っている。
AIが文章を生成する際の最小単位である「トークン」を、同じ電力でより多く生成すると同時に、機器間のデータ移動にかかる時間をどこまで短縮できるかが重要になっている。
エヌビディアがこのボトルネックを減らすために打ち出した解決策が、Vera Rubinだ。
Vera Rubinは、7種類のチップと、それぞれ異なる役割を担う5種類のラックシステムで構成される。ラックとは、複数のサーバーや通信機器、ストレージ機器などを一つのキャビネット内に収めたシステム単位を指す。
Vera Rubinには、GPUを搭載する「NVL72」ラックのほか、Vera CPUラック、AIの回答生成時間を短縮する「Groq3 LPX」推論アクセラレーターラックが含まれる。
さらに、AIモデルのデータを保存・読み出しする「BlueField-4 STX」ラックや、複数のラックを高速で接続する「Spectrum-6 SPX」ネットワークラックも組み込まれている。
これら5種類のラックシステムが一体となり、Vera Rubinプラットフォームを構成する。
テッククランチは、GPUを自動車のエンジンに例えるなら、CPUやストレージ、ネットワークは車を構成するその他の部品に相当すると説明した。
つまり、エヌビディアは高性能GPUを供給するだけでなく、AIデータセンター全体を一つの巨大なスーパーコンピューターのように動かすシステムまで提供しているということだ。
このうち、データ移動を制御する重要な装置の一つがVera CPUだ。
エヌビディアでストレージ技術を担当するジェイソン・ハーディ副社長は、テッククランチとのインタビューで、1台のサーバーに搭載できるメモリ容量には限界があると説明した。
そのため、必要なデータをフラッシュメモリを利用したストレージからGPUへ適切なタイミングで供給する能力が重要になるという。
ハーディ氏によると、Vera CPUはデータ移動時のボトルネックを減らすことで、ストレージからGPUへデータを供給する一部の処理性能を最大3倍に高めた。
ストレージやネットワーク用のラックも、GPUがデータを待つ時間を短縮する役割を担う。
BlueField-4 STXは、AIモデルが文脈を維持するために必要となる大量の一時データを保存し、高速で読み出す。Spectrum-6 SPXは、ラック間の通信遅延を減らす。
GPUの外側で発生するデータ移動のボトルネックを減らそうとしているのは、エヌビディアだけではない。
OpenAIも、独自開発した初の推論向けAIチップ「Jalapeño（ハラペーニョ）」を設計する際、チップ、メモリ、ネットワーク、ソフトウェア、ラックシステムを一体的に最適化した。
必要なデータを演算が行われるシステム内部にできるだけ保持し、機器間のデータ移動や通信遅延を最小限に抑える考え方だ。
AI半導体の競争は、より高速なGPUを開発する競争から、演算、メモリ、ストレージ、通信をいかに効率よく連携させるかを競う「システム全体の競争」へと移りつつある。
テッククランチは、7種類のチップと5種類のラックシステムで構成されるプラットフォームを投入したエヌビディアが、この競争の初期段階では先行していると評価した。
一方、OpenAIや大手クラウド企業も独自システムの開発を進めており、エヌビディアが現在の優位性をどこまで維持できるかは、今後さらに見極める必要があるとしている。
