Amazon Web Services (AWS) a annoncé le lancement d'un nouvel outil appelé TorchNeuron, qui permet aux startups spécialisées dans l'intelligence artificielle de transférer facilement leurs applications pour les exécuter sur les puces d'intelligence artificielle personnalisées d'Amazon connues sous le nom de Trainium. Cette mesure représente un défi direct pour l'avantage logiciel détenu par Nvidia, qui a fait de son matériel le choix par défaut dominant dans le secteur des applications d'intelligence artificielle.
Fonctionnement de l'outil TorchNeuron et prise en charge de PyTorch
Le nouvel outil fonctionne en compatibilité avec le framework PyTorch, qui est une boîte à outils gratuite et open source sur laquelle les développeurs s'appuient pour construire, entraîner et exécuter des modèles d'intelligence artificielle, capturant environ 85 % des applications d'intelligence artificielle. Selon Amazon, l'outil TorchNeuron permet d'exécuter des applications écrites en PyTorch sur les puces Trainium en modifiant une seule ligne dans les fichiers de configuration, et ce sans aucune réécriture de logiciel.
L'outil est conçu autour du framework PyTorch lui-même, ce qui signifie que les développeurs habitués à ce framework n'auront pas besoin d'apprendre de nouveaux outils. Bien qu'il y ait eu des tentatives antérieures d'autres entreprises pour faciliter le transfert d'applications vers leurs puces telles que les processeurs AMD ou les puces Apple, Amazon affirme que l'intégration avec son architecture cloud offre aux startups un environnement complet par rapport aux fournisseurs de services cloud liés exclusivement au matériel de Nvidia.
Suppression des restrictions et réduction de la dépendance
La stratégie d'Amazon ne se limite pas à offrir une option permettant aux développeurs de migrer vers son cloud, elle vise également à contribuer à rendre le framework PyTorch moins dépendant par défaut du matériel de Nvidia. Dans ce contexte, Amazon contribue par des modifications logicielles directes au projet principal PyTorch pour supprimer le code qui lie le framework à des puces spécifiques, dans le but de renforcer l'indépendance du framework vis-à-vis du matériel au profit de l'ensemble de la communauté des développeurs.
Pourquoi cette nouvelle est-elle importante ?
- Briser le monopole logiciel : Amazon cherche à attaquer le principal point fort de Nvidia, à savoir l'infrastructure logicielle CUDA, qui a fait du matériel de Nvidia le choix pratiquement unique au fil du temps.
- Intégration économique : Amazon propose une plateforme unifiée pour l'entraînement et l'inférence des modèles, estimant que cela améliore la viabilité économique globale des charges de travail logicielles, comme cela a été le cas avec la société Deepgram.
- Élargissement des choix des développeurs : Le découplage de PyTorch et de Nvidia pourrait offrir une plus grande flexibilité aux développeurs, à condition de ne pas entraîner de complexités supplémentaires dans la configuration des infrastructures.