CoreWeaveは、NVIDIA Vera Rubin NVL72システムを同社のクラウドプラットフォームで提供開始すると発表した。Spectrum-X 102.4T Ethernetネットワークに支えられたこの取り組みは、エージェント型AIのワークロードをトレーニングや実験から本番運用へ移行させることを目的としている。同社によると、エージェント型ソフトウェアエンジニアDevinを開発するCognitionが、Vera Rubin上で本番ワークロードを実行する初の顧客となった。
この発表はサンフランシスコで開催されたCoreWeave Fully Connectedイベントの一環であり、AIエージェントのワークロード向けに設計されたNVIDIA Veraプロセッサーの提供計画や、モデルとエージェントのトレーニング、評価、継続的な最適化を結び付けるCoreWeave Forge環境の立ち上げも含まれている。
Devinのワークロードで高い性能
CognitionはCoreWeaveのインフラを利用してDevinのトレーニング、強化学習、本番環境での推論を実行している。CoreWeaveが初のVera Rubin NVL72本番ラックを受け取った後、CognitionはFrontierCodeから取得した一連のソフトウェアエンジニアリングタスクを用いて性能を比較し、それらを解決するエージェントを展開した。
初期テストでは、SWE-2推論ワークロードの総トークン生成レートが、GB200 NVL72をベースラインとした場合に最大4.8倍向上した。情報源によれば、実際にはDevinによるコード生成の高速化と、複数段階の思考に対する応答性の向上を意味する。ただし、本文には完全な測定方法や、異なる環境間でこの数値を比較できる範囲を定める試験条件について、十分な詳細は示されていない。
AIライフサイクルのための単一プラットフォーム
CoreWeaveでは、CoreWeave Kubernetes Service、SUNK、CoreWeave Mission Control、CoreWeave Sandboxes、CoreWeave Inferenceを通じてVera Rubinの容量を稼働させることができる。また同社は、CoreWeave ForgeがWeights & Biasesのツール、OpenPipeのポストトレーニングに関する知見、オープンソースプロジェクトmarimoを一つの環境に統合すると発表した。同環境は、さまざまなモデル、フレームワーク、クラウドに対してオープンな状態を維持する。
Forgeには、実験を分析し、変更を提案してGitHubに保存する一般提供のCoreWeave ARIAサービスと、本番環境におけるエージェントの監視データを最適化の入力へ変換する新しいCoreWeave Agent Lensサービスが含まれる。CoreWeaveによると、Agent Lensは障害の検出を20%改善し、修正コストを半減させた。ただし、これらの割合の算出方法に関する独立した詳細は示されていない。
また、CoreWeave Sandboxesも一般提供となり、CPUまたはGPU上の隔離環境で、エージェントの実行、ツール呼び出し、強化学習、評価を行えるようになった。同社によると、サーバーレス強化学習は、自己管理型の構成と比べて1.4倍高速に動作し、コストを40%削減する。
実際には何が変わるのか？
最も重要な変化は、単に新しいハードウェアを追加することではなく、エージェントの実行、そのシグナルの収集、そしてそれらのトレーニングへの再利用の間にある隔たりを縮小しようとする点にある。NVIDIA Dynamoはオープンソースの推論フレームワークであり、マネージド推論サービスと、限定プレビュー中のRL Rollouts機能を支えている。RL Rolloutsは、再デプロイせずに新しいチェックポイントを稼働中のデプロイメントへ読み込むことができる。
CoreWeaveによると、Veraプロセッサーは1つのラックに128基のCPUと11,264個のコアを搭載でき、1環境につき1コアを割り当てた場合、11,000を超える同時実行環境に対応できる。テストでは、エージェント環境の起動プロセスが3倍以上高速化し、Terminal-Benchの成功タスク全体でプロセッサーは1.7倍の向上を達成した。
Canva、Capital One、MasterClassはForgeを利用している。一方、Ennoble Careは臨床AI推論を実行するため、NVIDIA RTX PRO 6000の予約済み容量を選択した。ただし、ここで示されている性能とコストに関する数値の大半はCoreWeaveまたはその顧客が提示したものであり、あらゆるエージェント型AIワークロードに対する一般的な指標と見なす前に、独立した検証が必要である。