Suivre l’évolution de l’intelligence artificielle ne nécessite plus seulement de comprendre les modèles et les algorithmes, mais aussi de décoder un vocabulaire en évolution rapide, composé de nouveaux sigles et concepts techniques. Ce guide rassemble les principaux termes dont les développeurs, les équipes produit et les lecteurs technophiles ont besoin pour comprendre ce qui se passe derrière les assistants intelligents et les modèles génératifs.
Ces concepts vont des notions fondamentales comme l’entraînement, l’inférence et les poids à d’autres notions liées à des applications plus récentes, comme les agents d’intelligence artificielle et le Model Context Protocol. Le guide aborde également des termes apparus dans les discussions récentes sur l’efficacité et la capacité de surveillance des modèles, comme le « raisonnement opaque » (Opaque recurrence).
Les concepts qui construisent et font fonctionner le modèle
Le grand modèle de langage (LLM) est un modèle neuronal profond qui apprend les relations entre les mots et les phrases à partir de quantités massives de livres, d’articles et de textes. Lorsqu’il reçoit une requête, le modèle génère le motif le plus susceptible de lui correspondre. Ces modèles sont utilisés dans ChatGPT, Claude, Google Gemini, Meta AI Llama, Microsoft Copilot et Mistral Le Chat.
L’entraînement est le processus au cours duquel le modèle apprend des motifs à partir des données, tandis que l’inférence désigne l’exécution du modèle pour produire une prédiction ou une réponse à partir de ce qu’il a appris. Le matériel utilisé pour l’inférence, des processeurs de téléphones aux unités GPU et aux accélérateurs d’intelligence artificielle, influe sur la vitesse d’exécution du modèle et sur sa capacité à traiter de grands modèles.
Les poids déterminent l’importance relative des différentes caractéristiques au sein du modèle et évoluent pendant l’entraînement afin que les sorties se rapprochent de l’objectif souhaité. La perte de validation (Validation loss) mesure la qualité de l’apprentissage du modèle sur les données de validation ; une valeur plus faible est généralement préférable, mais elle aide également à détecter le surapprentissage, lorsque le modèle mémorise les données d’entraînement au lieu d’apprendre des motifs généralisables.
L’apprentissage profond désigne des modèles qui utilisent des réseaux neuronaux multicouches, tandis que le réseau neuronal décrit la structure informatique plus large sur laquelle reposent ces modèles. Ces systèmes nécessitent généralement de grandes quantités de données et un temps d’entraînement plus long que les algorithmes plus simples, ce qui augmente le coût du développement.
Comment les modèles se spécialisent-ils et gagnent-ils en efficacité ?
Le réglage fin (Fine-tuning) permet de poursuivre l’entraînement d’un modèle existant à l’aide de données spécialisées pour une tâche ou un secteur précis. L’apprentissage par transfert (Transfer learning) utilise quant à lui un modèle préentraîné comme point de départ pour une autre tâche, ce qui peut réduire le temps de développement lorsque les données de la nouvelle tâche sont limitées, sans pour autant supprimer le besoin de données supplémentaires adaptées au domaine.
Dans la distillation (Distillation), un grand modèle joue le rôle de « professeur », et ses sorties servent à entraîner un modèle plus petit qui tente d’imiter son comportement. Il peut en résulter un modèle moins volumineux et plus efficace, avec une certaine perte de performances. La source indique que la distillation des sorties d’un modèle concurrent peut enfreindre les conditions d’utilisation des interfaces de programmation ou des assistants.
L’architecture de mélange d’experts (Mixture of Experts) divise le réseau en unités spécialisées et n’en active qu’une partie pour chaque requête. Cela permet de construire de grands modèles tout en réduisant les calculs nécessaires pour chaque opération. Mixtral de Mistral AI en est un exemple connu, tandis qu’il est largement admis que les modèles GPT les plus récents utilisent une forme de cette architecture, sans confirmation officielle d’OpenAI.
Les modèles de diffusion (Diffusion) sont utilisés pour générer des images, de la musique et des textes. Ils ajoutent progressivement du bruit aux données, puis apprennent à inverser le processus afin de les reconstruire à partir du bruit. Les GAN, quantifiés à eux, combinent un réseau qui génère des sorties et un autre qui les évalue. Ils ont été utilisés pour produire des images et des vidéos réalistes, notamment dans des applications plus limitées comme les outils de deepfake.
Les agents et la connexion aux outils
Un agent d’intelligence artificielle se distingue d’un chatbot de base par sa capacité supposée à exécuter une série d’étapes au nom de l’utilisateur, comme réserver un billet, mettre à jour du code ou interagir avec un service externe. Toutefois, le terme ne possède pas de définition uniforme, et l’architecture nécessaire pour fournir ces capacités est encore en cours de développement.
Les agents de programmation se spécialisent dans l’écriture, le test et la correction du code, ainsi que dans le travail sur des dépôts complets, au lieu de se limiter à proposer un extrait de code. Néanmoins, selon l’article, une vérification humaine reste nécessaire, car l’agent peut exécuter des tâches étendues avec une supervision limitée.
Les points de terminaison d’API ressemblent à des boutons situés en arrière-plan, qui permettent à un programme de demander un service à un autre programme. À mesure que les agents gagnent en capacité, ils peuvent découvrir ces points de terminaison et les utiliser pour exécuter des opérations automatisées, ce qui ouvre des possibilités pratiques, mais peut également produire des comportements inattendus. Le Model Context Protocol (MCP) est une norme ouverte qui permet aux modèles de se connecter à des fichiers, des bases de données et des applications sans devoir créer un connecteur personnalisé pour chaque relation. Anthropic a présenté le protocole en 2024, puis l’a transféré à la Linux Foundation, avant qu’OpenAI, Google et Microsoft ne l’adoptent à leur tour.
Quelle est l’importance pratique de ces termes ?
Ces concepts montrent que les performances d’un système d’intelligence artificielle ne dépendent pas uniquement du modèle. Le parallélisme permet d’exécuter des milliers d’opérations simultanément sur des unités GPU, tandis que le débit de traitement des tokens (Token throughput) mesure la quantité de travail que le système peut accomplir pendant une période donnée. Il s’agit d’un facteur qui influe sur le nombre d’utilisateurs pouvant être servis et sur la rapidité des réponses.
Un token est une petite unité de texte, qui peut être une partie de mot, utilisée pour l’entrée et le traitement du langage ainsi que pour la tarification des services de modèles. La mise en cache de la mémoire, notamment la mise en cache KV, contribue à réduire les calculs répétés pendant l’inférence et à accélérer les réponses.
En revanche, les hallucinations restent l’un des principaux problèmes de qualité : le modèle peut produire des informations incorrectes ou des conseils trompeurs, notamment des réponses médicales potentiellement dangereuses. La source indique que ce risque est lié à des lacunes dans les données d’entraînement, ce qui constitue l’une des raisons de la tendance à développer des modèles plus spécialisés et davantage limités à un domaine.
Parmi les termes qui méritent une attention particulière figure le raisonnement opaque, qui consiste à faire passer la requête plusieurs fois à travers les couches du modèle au lieu d’exposer des étapes de réflexion séquentielles dans une langue compréhensible. Cette méthode peut être plus efficace et permettre à de petits modèles d’obtenir de meilleures performances avec moins de calculs, mais elle laisse moins de traces lisibles, ce qui complique la détection des comportements indésirables par les chercheurs. Le terme profondeur récurrente (Recurrent depth) lui est associé et décrit à peu près la même méthode d’ingénierie.
Quant à « Neuralese », il s’agit d’un scénario hypothétique dans lequel le modèle réfléchit entièrement au moyen de ses représentations numériques internes, sans langage humain compréhensible. La source précise qu’aucun modèle commercialisé n’est parvenu à cet état et qu’OpenAI a déclaré que le modèle Astra, lancé en septembre 2026, préserve la lisibilité de sa chaîne de pensée, malgré les inquiétudes des chercheurs en sécurité quant à son utilisation du raisonnement opaque.
La valeur de ce dictionnaire réside dans le fait qu’il distingue des concepts qui se confondent souvent dans le débat public : l’entraînement n’est pas le raisonnement, un agent n’est pas simplement un robot conversationnel, et « open source » ne signifie pas nécessairement que tous les composants du modèle sont disponibles de la même manière. De même, les termes les plus récents, notamment ceux liés à l’autonomie et à la transparence, continuent de faire l’objet de définitions divergentes et soulèvent des questions ouvertes quant aux limites du contrôle et de la sécurité.