Production par un système d’intelligence artificielle d’une réponse erronée ou trompeuse, parfois formulée avec assurance.
L’intelligence artificielle a placé au cœur de la gestion des incidents des tâches telles que le tri des alertes, la récupération de procédures opérationnelles et la proposition de réponses, mais les exercices de simulation restent souvent centrés sur les humains. L’article appelle à tester les hallucinations des systèmes, leurs défaillances, les limites des garde-fous et la capacité des équipes à travailler sans eux.
Une étude menée par Wolters Kluwer en collaboration avec Ipsos révèle que les préoccupations concernant la confidentialité des données, les biais des modèles et les hallucinations rendent les patients américains moins disposés à utiliser l’intelligence artificielle pour des tâches nécessitant des données de santé personnelles. Environ 89 % d’entre eux demandent une supervision humaine des réponses de santé produites par l’intelligence artificielle.
Le président américain Donald Trump a annoncé le lancement d’America.gov, une interface conversationnelle destinée à simplifier l’accès aux informations et aux services gouvernementaux, avec la participation de Google et de son modèle Gemini, ainsi que l’utilisation de Grok, selon un responsable gouvernemental. Le projet soulève des questions concernant les risques d’hallucination lorsque les utilisateurs s’appuient sur les réponses du modèle pour les visas, les impôts et les prestations.
La Food and Drug Administration américaine a accordé à Cognita Imaging un contrat de recherche de 1,29 million de dollars afin de tester la capacité d’un ensemble de grands modèles de langage à évaluer des comptes rendus radiologiques produits par des systèmes d’intelligence artificielle. Le projet vise à mesurer les hallucinations et les omissions, ainsi qu’à déterminer les cas nécessitant une revue par un radiologue.
Cet article rassemble et explique un large éventail de termes devenus essentiels pour comprendre les modèles d’intelligence artificielle, leur architecture, ainsi que leurs méthodes d’entraînement et de fonctionnement. Il met également en lumière des concepts plus récents tels que les agents, le protocole MCP et le raisonnement opaque, tout en clarifiant les limites et les risques qui leur sont associés.