Le choix entre les modèles d’intelligence artificielle fermés et ouverts n’est plus seulement lié au prix d’accès à une interface de programmation d’applications. La mise à disposition des poids entraînés au téléchargement permet d’exécuter le modèle sur le matériel de l’organisation ou de l’adapter à ses besoins, mais elle soulève en même temps des questions complexes pour les ingénieurs en conception de puces concernant la mémoire, les performances durables, la sécurité du déploiement et la capacité du matériel à s’adapter à des modèles qui évoluent en quelques semaines, alors que la conception d’une puce prend des années.
C’est l’axe abordé par l’analyse de Semiconductor Engineering, qui s’appuie sur les avis d’experts d’Expedera, d’Arteris, d’Axiomise, de Synopsys, de Siemens EDA, de Cadence, de Rambus et d’autres entreprises. La conclusion principale est que le critère de réussite n’est plus le nombre d’opérations TOPS atteint lors d’un pic de courte durée, mais la capacité de la plateforme à exécuter efficacement, avec réactivité et sécurité, un ensemble changeant de modèles.
Les poids ouverts ne signifient pas une ouverture complète du code source
Un modèle à poids ouverts permet à l’utilisateur de télécharger les paramètres entraînés et de les exécuter ou de les adapter localement. Cela ne signifie toutefois pas nécessairement qu’il s’agit d’un modèle open source ; les données d’entraînement, le code et les droits d’utilisation peuvent rester soumis à des restrictions. Ce domaine comprend des modèles tels que Meta Llama, Alibaba Qwen, DeepSeek, Mistral, Google Gemma, Microsoft Phi et la famille OpenAI gpt-oss.
Les options d’exécution vont de grands modèles nécessitant des serveurs ou des accélérateurs avancés à des modèles plus petits pouvant fonctionner sur des appareils dotés d’une mémoire limitée. Selon l’article, gpt-oss-120b peut fonctionner sur une unité de traitement graphique dotée de 80 gigaoctets de mémoire, tandis que gpt-oss-20b cible les appareils équipés de 16 gigaoctets de mémoire grâce à la quantification MXFP4. Toutefois, l’adéquation du modèle à la mémoire ne prouve pas à elle seule qu’il fournira des performances pratiques utiles.
La flexibilité face à la dépendance à un seul fournisseur
L’exécution locale ou au sein d’un environnement cloud privé permet de réduire la dépendance à un seul service et contribue également à maintenir les données sensibles à l’intérieur du réseau de l’organisation. Cela revêt une importance particulière dans la conception de puces et les secteurs réglementés, où les données peuvent inclure des méthodes de travail, des schémas ou des informations constituant des secrets commerciaux.
Les organisations peuvent également utiliser le routage des modèles, en confiant les tâches difficiles à un modèle commercial puissant, tandis que les tâches répétitives ou moins complexes sont exécutées par un modèle à poids ouverts moins coûteux. L’analyse précise toutefois que les modèles ouverts ne garantissent pas automatiquement des performances ou un coût inférieurs ; le coût dépend de la taille du modèle, de son mode d’exécution et des exigences en matière de réactivité, et peut dépasser 10 000 dollars lorsqu’une performance interactive continue est nécessaire dans un flux de travail quotidien.
Qu’est-ce qui change concrètement dans la conception des puces ?
Les experts estiment que la mémoire, la bande passante et le transfert de données pourraient devenir des contraintes plus importantes que la puissance de calcul brute. Les équipes de conception doivent évaluer le nombre de paramètres actifs, la précision numérique, la longueur du contexte, le multimédia, la simultanéité et le temps de réponse, plutôt que de supposer l’existence d’un modèle unique et immuable pour l’avenir.
- La bande passante mémoire pourrait devenir la principale contrainte à la place des FLOPS.
- Les activations clairsemées et la quantification à faible précision gagnent en importance.
- Les systèmes hétérogènes, qui combinent différents types de processeurs, pourraient constituer un moyen pratique de déploiement.
- Il faut tester la pression exercée sur la mémoire KV, des contextes allant jusqu’à 128K et la simultanéité des agents, et pas seulement les opérations GEMM denses.
Ces exigences découlent de l’écart entre le cycle de développement des modèles et le cycle de fabrication des puces. Le modèle peut changer chaque semaine ou chaque mois, tandis que le cycle d’une puce peut prendre environ 2,5 ans dans les meilleurs cas. La capacité d’adaptation des logiciels et du matériel prend donc davantage de valeur que l’accélération d’un modèle unique susceptible de perdre son importance avant l’achèvement de la fabrication.
L’intelligence artificielle dans les outils de conception de puces
Les modèles généraux ne suffisent pas pour les travaux de conception de puces, selon ce que l’analyse rapporte de Synopsys. La fiabilité des résultats dépend de données de conception propres et documentées, d’un contexte clair pour le flux de travail et d’une référence vérifiée faisant autorité. L’ajustement des poids ne permet pas à lui seul de remédier au manque de données spécialisées ou à leurs contradictions.
C’est pourquoi la valeur des modèles ouverts dans les outils EDA pourrait être liée à la capacité des entreprises à conserver leurs données dans un environnement protégé, puis à y ajouter leurs données, leur flux de travail et leurs propres couches de connaissances. Sur le plan de la sécurité, il ne suffit pas de se concentrer sur le modèle lui-même : il faut également authentifier les fichiers de poids et les mises à jour, protéger la mémoire et les canaux DMA, isoler les charges de travail et prendre en charge le retour à une version sûre.
Lecture éditoriale : le véritable changement n’est pas que les modèles à poids ouverts remplaceront immédiatement les modèles propriétaires, mais qu’ils déplacent la décision en matière d’intelligence artificielle du choix d’un service vers la conception d’un système complet. Les organisations devront trouver un équilibre entre les performances, le coût, la confidentialité et la capacité d’évolution, tandis que les concepteurs de puces devront construire des plateformes capables de supporter l’évolution des modèles plutôt que de les optimiser pour une seule référence. La question reste ouverte de savoir dans quelle mesure les modèles ouverts pourront combler l’écart de qualité dans les tâches spécialisées, en particulier lorsque les données fiables et le flux de travail sont plus importants que la seule taille du modèle.