Amazon Web Services (AWS) ha anunciado el lanzamiento de una nueva herramienta llamada TorchNeuron, que permite a las startups en el campo de la inteligencia artificial transferir fácilmente sus aplicaciones para ejecutarlas en los chips de inteligencia artificial personalizados de Amazon conocidos como Trainium. Este paso representa un desafío directo a la ventaja de software que posee Nvidia, la cual ha convertido su hardware en la opción predeterminada y dominante en el sector de las aplicaciones de inteligencia artificial.
Cómo funciona la herramienta TorchNeuron y su compatibilidad con PyTorch
La nueva herramienta funciona en conjunto con el framework PyTorch, que es un paquete de herramientas gratuito y de código abierto en el que confían los desarrolladores para construir, entrenar y ejecutar modelos de inteligencia artificial, abarcando alrededor del 85% de las aplicaciones de inteligencia artificial. Según Amazon, la herramienta TorchNeuron permite ejecutar aplicaciones escritas en PyTorch en los chips Trainium mediante la modificación de una sola línea de código en los archivos de configuración, y sin necesidad de reescribir ningún software.
El diseño de la herramienta se basa en el propio framework PyTorch, lo que significa que los desarrolladores familiarizados con el framework no necesitarán aprender nuevas herramientas. A pesar de los intentos anteriores de otras empresas para facilitar la transferencia de aplicaciones a sus chips, como los procesadores de AMD o los chips de Apple, Amazon afirma que la integración con su arquitectura en la nube ofrece a las startups un entorno completo en comparación con los proveedores de servicios en la nube vinculados exclusivamente al hardware de Nvidia.
Eliminación de restricciones y reducción de la dependencia
La estrategia de Amazon no se limita a ofrecer una opción para que los desarrolladores migren a su nube, sino que también busca contribuir a hacer que el framework PyTorch dependa menos automáticamente del hardware de Nvidia. En este contexto, Amazon está contribuyendo con modificaciones de software directamente en el proyecto principal de PyTorch para eliminar el código que vincula el framework a chips específicos, con el objetivo de mejorar la independencia del framework respecto al hardware en beneficio de la comunidad de desarrolladores en general.
¿Por qué es importante esta noticia?
- Romper el monopolio del software: Amazon busca atacar el punto fuerte principal de Nvidia, representado por la infraestructura de software CUDA, que ha hecho que el hardware de Nvidia sea prácticamente la única opción a lo largo del tiempo.
- Integración económica: Amazon ofrece una plataforma unificada tanto para el entrenamiento como para la inferencia de modelos, considerando que esto mejora la viabilidad económica general de las cargas de trabajo de software, tal como ocurrió con la empresa Deepgram.
- Ampliar las opciones de los desarrolladores: Desvincular PyTorch de Nvidia podría otorgar una mayor flexibilidad a los desarrolladores, siempre y cuando no cause complicaciones adicionales en la configuración de las infraestructuras.