CoreWeave anunció la disponibilidad de los sistemas NVIDIA Vera Rubin NVL72 en su plataforma en la nube, respaldados por redes Spectrum-X 102.4T Ethernet, en un paso dirigido a trasladar las cargas de IA agéntica del entrenamiento y la experimentación a la operación en producción. La empresa afirma que Cognition, desarrolladora del ingeniero de software agéntico Devin, se convirtió en el primer cliente en ejecutar cargas de producción en Vera Rubin.
El anuncio se produce durante el evento CoreWeave Fully Connected en San Francisco e incluye también planes para ofrecer el procesador NVIDIA Vera, diseñado para cargas de agentes de IA, así como el lanzamiento del entorno CoreWeave Forge para conectar el entrenamiento, la evaluación y la mejora continua de modelos y agentes.
Mayor rendimiento para las cargas de Devin
Cognition utiliza la infraestructura de CoreWeave para entrenar Devin, realizar aprendizaje por refuerzo y ejecutar inferencia en producción. Después de recibir CoreWeave los primeros racks de producción Vera Rubin NVL72, Cognition comparó el rendimiento utilizando un conjunto de tareas de ingeniería de software tomadas de FrontierCode y desplegó agentes para resolverlas.
Las pruebas iniciales mostraron un aumento de hasta 4,8 veces en la tasa total de generación de tokens para cargas de inferencia SWE-2 frente a una línea base GB200 NVL72. En la práctica, según la fuente, el resultado implica una generación de código más rápida y una mejor respuesta durante las múltiples etapas de razonamiento de Devin. El texto no proporcionó suficientes detalles sobre la metodología completa de medición ni sobre las condiciones de prueba que determinan hasta qué punto puede compararse la cifra entre distintos entornos.
Una sola plataforma para el ciclo de vida de la IA
CoreWeave permite ejecutar capacidad de Vera mediante CoreWeave Kubernetes Service, SUNK, CoreWeave Mission Control, CoreWeave Sandboxes y CoreWeave Inference. La empresa también anunció que CoreWeave Forge reunirá las herramientas de Weights & Biases, la experiencia de posentrenamiento de OpenPipe y el proyecto de código abierto marimo en un solo entorno, manteniéndose abierto a distintos modelos, marcos y nubes.
Forge incluye el servicio CoreWeave ARIA, disponible de forma general para analizar experimentos, sugerir modificaciones y guardarlas en GitHub, y el nuevo servicio CoreWeave Agent Lens para convertir los datos de observabilidad de los agentes en producción en insumos para la mejora. CoreWeave afirma que Agent Lens mejoró la detección de fallos en un 20% y redujo a la mitad el coste de corregirlos, sin ofrecer detalles independientes sobre cómo se calcularon estos porcentajes.
CoreWeave Sandboxes también está disponible de forma general para ejecutar agentes, llamadas a herramientas, aprendizaje por refuerzo y evaluaciones dentro de entornos aislados en unidades de CPU o GPU. La empresa afirma que el aprendizaje por refuerzo sin servidor funciona 1,4 veces más rápido y con un coste un 40% menor que una configuración autogestionada.
¿Qué cambia en la práctica?
El cambio más importante no consiste únicamente en añadir nuevo hardware, sino en intentar reducir la brecha entre la ejecución del agente y la recopilación de sus señales para reutilizarlas después en el entrenamiento. NVIDIA Dynamo, un marco de inferencia de código abierto, respalda el servicio de inferencia gestionado y la función RL Rollouts, disponible en vista previa privada, que puede cargar nuevos puntos de control en un despliegue activo sin volver a desplegarlo.
CoreWeave afirma que el procesador Vera puede colocar 128 unidades de CPU y 11.264 núcleos en un solo rack, suficiente para más de 11.000 entornos simultáneos al asignar un núcleo a cada entorno. En las pruebas, el proceso de inicio de los entornos de agentes se aceleró más de tres veces, mientras que el procesador logró una mejora de 1,7 veces en las tareas superadas de Terminal-Bench.
Canva, Capital One y MasterClass utilizan Forge, mientras que Ennoble Care eligió capacidad reservada de NVIDIA RTX PRO 6000 para ejecutar inferencia de IA clínica. Sin embargo, la mayoría de las cifras de rendimiento y costes presentadas aquí proceden de CoreWeave o de sus clientes, por lo que requieren una revisión independiente antes de considerarlas indicadores generales para todas las cargas de IA agéntica.