CoreWeave объявила о доступности систем NVIDIA Vera Rubin NVL72 на своей облачной платформе при поддержке сетей Spectrum-X 102.4T Ethernet. Этот шаг направлен на перевод нагрузок агентного ИИ от обучения и экспериментов к промышленной эксплуатации. Компания утверждает, что Cognition, разработчик агентного инженера-программиста Devin, стала первым клиентом, запустившим производственные нагрузки на Vera Rubin.
Объявление было сделано в рамках мероприятия CoreWeave Fully Connected в Сан-Франциско. Оно также включает планы по предоставлению процессора NVIDIA Vera, разработанного для нагрузок ИИ-агентов, и запуск среды CoreWeave Forge для объединения обучения, оценки и непрерывного улучшения моделей и агентов.
Более высокая производительность для нагрузок Devin
Cognition использует инфраструктуру CoreWeave для обучения Devin, проведения обучения с подкреплением и запуска вывода в промышленной эксплуатации. После получения CoreWeave первых промышленных стоек Vera Rubin NVL72 компания Cognition сравнила производительность на наборе задач программной инженерии из FrontierCode и развернула агентов для их решения.
Первые тесты показали увеличение до 4,8 раза совокупной скорости генерации токенов для нагрузок вывода SWE-2 по сравнению с базовой системой GB200 NVL72. Практически, согласно источнику, это означает более быструю генерацию кода и более оперативный отклик на многоэтапные процессы рассуждения Devin. В тексте не приведено достаточно подробностей о полной методологии измерений или условиях тестирования, определяющих степень сопоставимости этого показателя между различными средами.
Единая платформа для жизненного цикла ИИ
CoreWeave позволяет запускать мощности Vera через CoreWeave Kubernetes Service, SUNK, CoreWeave Mission Control, CoreWeave Sandboxes и CoreWeave Inference. Компания также объявила, что CoreWeave Forge объединит инструменты Weights & Biases, опыт OpenPipe в области постобучения и проект с открытым исходным кодом marimo в одной среде, сохраняя открытость для различных моделей, фреймворков и облаков.
В состав Forge входит общедоступный сервис CoreWeave ARIA для анализа экспериментов, предложения изменений и их сохранения в GitHub, а также новый сервис CoreWeave Agent Lens для преобразования данных мониторинга производственных агентов в источники для улучшения. CoreWeave утверждает, что Agent Lens повысил эффективность обнаружения сбоев на 20% и вдвое снизил стоимость их исправления, однако независимые сведения о методике расчёта этих показателей не представлены.
CoreWeave Sandboxes также стала общедоступной для запуска агентов, вызовов инструментов, обучения с подкреплением и оценки в изолированных средах на CPU- или GPU-модулях. Компания утверждает, что бессерверное обучение с подкреплением работает в 1,4 раза быстрее и стоит на 40% дешевле, чем самостоятельно управляемая конфигурация.
Что меняется на практике?
Главное изменение заключается не только в добавлении нового оборудования, но и в попытке сократить разрыв между запуском агента, сбором его сигналов и последующим использованием этих сигналов в обучении. NVIDIA Dynamo, фреймворк вывода с открытым исходным кодом, поддерживает управляемый сервис вывода и функцию RL Rollouts, доступную в рамках закрытой предварительной версии; она позволяет загружать новые контрольные точки в действующее развёртывание без повторного развёртывания.
CoreWeave утверждает, что процессор Vera может разместить 128 CPU и 11 264 ядра в одной стойке, чего достаточно более чем для 11 тысяч одновременных сред при выделении одного ядра на каждую среду. В тестах запуск сред агентов ускорился более чем втрое, а процессор обеспечил прирост в 1,7 раза по совокупности успешных задач в Terminal-Bench.
Forge используют Canva, Capital One и MasterClass, тогда как Ennoble Care выбрала зарезервированную ёмкость NVIDIA RTX PRO 6000 для запуска вывода клинического ИИ. Однако большинство приведённых здесь показателей производительности и стоимости предоставлено CoreWeave или её клиентами, поэтому они требуют независимой проверки, прежде чем считать их общими показателями для всех нагрузок агентного ИИ.