Google a annoncé l'élargissement de la famille de huitième génération de ses unités de traitement tensoriel (TPU) dédiées à l'intelligence artificielle, avec le lancement de deux nouveaux systèmes : le TPU 8tx et le TPU 8i Max. Cette annonce vise à renforcer l'infrastructure d'intelligence artificielle en se concentrant sur les exigences du Confidential Computing et la gestion des charges de travail à contexte long.
Le système TPU 8tx pour le Confidential Computing
Le système TPU 8tx a été conçu spécifiquement pour répondre aux besoins des entreprises manipulant des données sensibles et soumises à des exigences réglementaires strictes. Le système repose sur les puces TPU 8t actuelles, tout en intégrant des processeurs serveurs AMD EPYC de cinquième génération pour la gestion des tâches et l'orchestration des données. Cette configuration permet aux utilisateurs d'exécuter des modèles d'intelligence artificielle au sein d'environnements de Confidential Computing, offrant une protection renforcée pour les poids des modèles et les données lors du traitement, du stockage et du transfert, grâce aux technologies de chiffrement sécurisé des environnements virtuels (SEV).
Google a également souligné que l'intégration du réseau Boardfly à faible latence a permis de réduire le temps de latence par deux par rapport au système TPU 8t standard, le rendant ainsi adapté aux opérations de fine-tuning et d'apprentissage par renforcement.
Le système TPU 8i Max pour les contextes longs
Le système TPU 8i Max cible les charges de travail nécessitant une mémoire massive et une puissance de traitement élevée, telles que les applications d'agents autonomes traitant de grands dépôts de logiciels ou du contenu visuel étendu. Ce système repose sur le regroupement de deux unités TPU 8i en un seul package, ce qui permet de doubler la puissance de calcul, la mémoire SRAM et la bande passante mémoire HBM, augmentant ainsi la densité de calcul au sein des centres de données.
Que signifie cette expansion pour les utilisateurs ?
Cette annonce illustre la stratégie de Google visant à diversifier ses options techniques sans avoir à concevoir entièrement de nouvelles puces, l'entreprise se concentrant sur l'optimisation des méthodes d'intégration du calcul, de la mémoire et des réseaux. Avec l'ajout de ces deux systèmes, la famille de huitième génération comprend désormais quatre options couvrant l'entraînement à grande échelle, l'inférence rapide, le Confidential Computing et le traitement des contextes longs. Google réaffirme son engagement à soutenir les frameworks open source tels que PyTorch et le projet TorchTPU pour faciliter l'adoption de ces systèmes par les développeurs.
Il convient de noter que Google n'a pas encore divulgué de détails sur les prix ou les calendriers de disponibilité commerciale de ces systèmes, et aucun projet spécifique n'a été annoncé pour la région arabe.