La naturaleza de la competencia en la infraestructura de inteligencia artificial está cambiando. Después de años en los que la ventaja de Nvidia estuvo vinculada principalmente a poseer las unidades de procesamiento gráfico GPU más avanzadas, este análisis señala que el centro de gravedad se desplaza gradualmente hacia lo que rodea al procesador: la gestión de la memoria, el enrutamiento de datos, el almacenamiento, las redes y la coordinación del trabajo entre los componentes del sistema. A medida que las cargas de trabajo de inteligencia artificial se expanden hasta la escala de los gigavatios, aumentar por sí solo el número de ciclos de procesamiento ya no basta para alcanzar la eficiencia requerida.
Esta lectura llega en un momento en que las grandes empresas de infraestructura en la nube, como Amazon y Google, han comenzado a desarrollar sus propios chips, lo que ha debilitado la idea de que Nvidia sea la única opción para obtener hardware avanzado de inteligencia artificial. Esto ha suscitado preguntas sobre la sostenibilidad de la ventaja de la empresa, especialmente después de que su capitalización bursátil se multiplicara por diez entre comienzos de 2023 y mediados de 2025, antes de que el movimiento de sus acciones se volviera más moderado durante el año siguiente en medio de preocupaciones por la competencia en las unidades GPU.
Del procesador al sistema de rack
Según el artículo, Nvidia ofrece actualmente la arquitectura Vera Rubin, que combina la unidad Rubin GPU con un conjunto de otras unidades, entre ellas Vera CPU, el acelerador de inferencia Groq 3 LPX y racks específicos para almacenamiento y redes. Estos componentes no se centran necesariamente en ejecutar tokens directamente, sino en garantizar que los datos lleguen a las unidades GPU con la velocidad y en el momento adecuados.
La GPU puede compararse con el motor, mientras que el resto de los componentes del sistema desempeña las funciones del automóvil que garantizan el uso eficiente de la potencia del motor. Cuanto mayor es la capacidad de los centros de datos, mayor es la necesidad de memoria, pero trasladar los datos de la memoria al procesador sin cuellos de botella se ha convertido en un desafío independiente. Este desafío adquiere mayor importancia a medida que los operadores de infraestructura buscan reducir el número de tokens que pueden producirse por vatio.
El papel de Vera CPU en el enrutamiento de datos
Jason Hardy, vicepresidente de Nvidia para tecnologías de almacenamiento, afirmó que Vera es importante porque la cantidad de memoria que puede instalarse en un solo servidor o plataforma informática es limitada. Según lo citado por el análisis, las operaciones lograron una mejora de hasta tres veces cuando Vera CPU permitió acelerarlas, lo que hizo posible utilizar plenamente las unidades de almacenamiento flash en lugar de dejar que el rendimiento se viera afectado por cuellos de botella en la transferencia de datos.
La conclusión práctica aquí es que el rendimiento del centro de datos no está determinado únicamente por las especificaciones de una GPU individual. Incluso una unidad de procesamiento rápida puede no aprovechar plenamente sus ventajas si los datos no llegan a ella a tiempo, o si la memoria, el almacenamiento y las redes no pueden seguir el ritmo del flujo de trabajo. Por eso Nvidia intenta vender un sistema integrado, no solo un chip independiente.
Una solución diferente de OpenAI
La gestión del problema del movimiento de datos no se limita a Nvidia. Cuando OpenAI desarrolló el chip Jalapeño, reducir la cantidad de datos que debían trasladarse entre los componentes fue un eje principal del diseño. La empresa afirmó que el gran tamaño del chip permite que toda la carga de trabajo permanezca dentro de un único sistema conectado, lo que reduce el movimiento de datos y las latencias de comunicación, y ayuda a mantener la solicitud rápida y eficiente de principio a fin.
Los dos enfoques difieren: la arquitectura de Nvidia intenta gestionar eficientemente el movimiento de datos mediante un conjunto de componentes especializados, mientras que OpenAI busca reducir el movimiento en sí manteniendo la carga de trabajo dentro de un chip o sistema integrado. Sin embargo, el objetivo es el mismo: mejorar la eficiencia en lugar de depender únicamente de añadir ciclos de procesamiento o más chips.
¿Por qué importa este cambio?
Aquí aparece una nueva capa de competencia en la inteligencia artificial. Ya no basta necesariamente con construir una GPU competitiva; las empresas también deben conseguir que todo el sistema funcione de manera eficiente. Esto abre un campo para que los fabricantes de chips y los operadores de servicios en la nube compitan en el diseño de racks, la coordinación de la memoria y la gestión del almacenamiento y las redes, no solo en la potencia de procesamiento bruta.
Lectura de certi.news: Lo que realmente ha cambiado es la definición del rendimiento en los centros de datos de inteligencia artificial. El criterio pasa de la pregunta «¿qué tan rápido es el chip?» a una pregunta más amplia: «¿qué tan eficiente es el sistema para mantener el chip ocupado con los datos adecuados?». Esto brinda a Nvidia la oportunidad de ampliar su ventaja a una capa difícil de separar del resto de la infraestructura, pero no resuelve la competencia. La empresa se enfrentará a competidores tanto en las unidades GPU como en la gestión y coordinación de los sistemas; además, la fuente no proporciona cifras comparativas exhaustivas entre la arquitectura de Nvidia y las soluciones de sus competidores, ni demuestra que la ventaja actual vaya a mantenerse a largo plazo.
Para los operadores de centros de datos, esto significa que las decisiones de infraestructura pueden requerir considerar la eficiencia del sistema completo, no solo el precio o el rendimiento del procesador. Para los diseñadores de chips, el desafío se amplía: pasa de aumentar la capacidad de cómputo a reducir el movimiento de datos y los cuellos de botella. El análisis indica que Nvidia parece contar, en las primeras etapas, con una ventaja sólida en esta nueva capa, sin que ello signifique el fin de la competencia ni garantice una superioridad permanente.