Suivez les dernières actualités, explications et histoires technologiques associées.
Les centres de données s’orientent vers des grappes hétérogènes combinant des CPUs, des GPUs, des NPUs, des accélérateurs personnalisés et des interconnexions optiques, plutôt que de s’appuyer sur un seul GPU pour toutes les tâches. Cette transition fait des logiciels ainsi que de la gestion des réseaux et de l’énergie des facteurs essentiels pour réduire le coût des jetons et améliorer l’utilisation du matériel.
Une analyse de Semiconductor Engineering estime que la séparation traditionnelle entre les équipes hardware et software n’est plus adaptée aux systèmes modernes, notamment avec l’accélération des charges de travail liées à l’intelligence artificielle et le renforcement des contraintes énergétiques et thermiques. Cela pousse les entreprises à concevoir des matériels plus spécialisés en parallèle des logiciels, tandis que persistent les défis liés aux outils, aux coûts et à la normalisation.