AIインフラの競争の性質が変化している。数年にわたり、Nvidiaの優位性は主に最先端のGPUを保有していることと結び付けられてきた。しかしこの分析は、重心がプロセッサーを取り巻く要素、すなわちメモリ管理、データのルーティング、ストレージ、ネットワーク、システム構成要素間の作業調整へと徐々に移っていると指摘する。AIワークロードがギガワット規模へ拡大するなか、必要な効率性を実現するには、処理サイクルの数を増やすだけではもはや十分ではない。
この見方が示されたのは、AmazonやGoogleなど大手クラウドインフラ企業が独自チップの開発を始めた時期でもある。その結果、Nvidiaが先進的なAIハードウェアを入手するための唯一の選択肢だという考えは弱まった。特に2023年初めから2025年半ばまでに同社の時価総額が10倍に拡大した後、GPUをめぐる競争への懸念を背景に、翌年には株価の動きがより穏やかになったことから、同社の優位性がどれほど持続可能なのかをめぐる疑問が生じている。
プロセッサーからラック全体のシステムへ
記事によると、Nvidiaは現在、Rubin GPUを、Vera CPU、推論アクセラレーターのGroq 3 LPX、ストレージおよびネットワーク専用ラックなど、その他の複数のユニットと組み合わせるVera Rubinアーキテクチャーを提案している。これらの構成要素は必ずしもトークンを直接処理することに重点を置いているわけではなく、適切な速度とタイミングでデータがGPUに届くようにすることに重点を置いている。
GPUをエンジンにたとえるなら、システムの他の構成要素は、エンジンの力を効率的に使えるようにする自動車の各機能を担う。データセンターの能力が高まるほどメモリの必要性も増すが、データをメモリからプロセッサーへボトルネックなく移動させることは、独立した課題になっている。そして、インフラ運用者がワット当たりに生成できるトークン数を減らそうとするなかで、この課題の重要性はさらに高まっている。
データ転送におけるVera CPUの役割
Nvidiaのストレージ技術担当バイスプレジデントであるJason Hardyは、1台のサーバーまたはコンピューティングプラットフォームに搭載できるメモリ量には限界があるため、Veraが重要だと述べた。分析が同氏の発言として伝えたところによると、Vera CPUによって処理を高速化できた場合、処理は最大3倍向上した。これにより、データ転送のボトルネックによって性能が妨げられるのではなく、フラッシュストレージの性能を最大限に活用できたという。
ここでの実際的な意味は、データセンターの性能が単独のGPUの仕様だけで決まるわけではないということだ。高速なプロセッサーであっても、データが適切なタイミングで届かなければ、あるいはメモリ、ストレージ、ネットワークがワークロードの流れに対応できなければ、その利点を十分に発揮できない。そこでNvidiaは、単独のチップではなく、統合システムを販売しようとしている。
OpenAIによる異なる解決策
データ移動の問題への対応はNvidiaに限られない。OpenAIがJalapeñoチップを開発した際には、構成要素間で移動させる必要のあるデータ量を減らすことが設計の主要な軸となった。同社は、チップの大きな面積により、ワークロード全体を単一の接続システム内に保持できるため、データ移動と通信遅延を減らし、最初から最後までリクエストの高速性と効率性を維持するのに役立つと説明した。
両者のアプローチは異なる。Nvidiaのシステムは、複数の専門化された構成要素を通じてデータの流れを効率的に管理しようとする一方、OpenAIはワークロードを単一のチップまたは統合システム内に保持することで、データ移動そのものを減らそうとしている。しかし、目指す結果は同じであり、処理サイクルやチップを単純に追加するのではなく、効率性を改善することにある。
なぜこの変化が重要なのか
ここには、AIにおける新たな競争層が現れている。競合するGPUを構築するだけでは、もはや十分とは限らない。企業はシステム全体を効率的に動作させる必要もある。そのため、チップメーカーやクラウドサービス運用者は、処理能力そのものだけでなく、ラック設計、メモリ調整、ストレージおよびネットワーク管理でも競争できるようになる。
certi.newsの見解：本当に変わったのは、AIデータセンターにおける性能の定義である。基準は「チップはどれほど速いか」という問いから、より広い「適切なデータでチップを稼働させ続けるうえで、システムはどれほど効率的か」という問いへ移りつつある。これによりNvidiaは、自社の優位性をインフラの他の部分から切り離しにくい層へ拡大する機会を得るが、競争が決着するわけではない。同社はGPUだけでなく、システム管理と調整でも競合に直面する。また、情報源はNvidiaのシステムと競合他社のソリューションを包括的に比較する数値を示しておらず、現在の優位性が長期的に続くことも証明していない。
データセンター運用者にとって、これはインフラに関する意思決定において、プロセッサー単体の価格や性能だけでなく、システム全体の効率性を検討する必要が生じることを意味する。チップ設計者にとっては、課題が計算能力の向上から、データ移動とボトルネックの削減へと広がる。この分析は、Nvidiaがこの新たな層で初期段階において強い先行性を持っているように見えると示しているが、それは競争の終結や恒久的な優位性を保証するものではない。