Termes

Hallucination de l’IA

Production par un système d’intelligence artificielle d’une réponse erronée ou trompeuse, parfois formulée avec assurance.

Dernières actualités

CN
Pourquoi les équipes de réponse aux incidents devraient-elles également tester les outils d’intelligence artificielle ?

Pourquoi les équipes de réponse aux incidents devraient-elles également tester les outils d’intelligence artificielle ?

L’intelligence artificielle a placé au cœur de la gestion des incidents des tâches telles que le tri des alertes, la récupération de procédures opérationnelles et la proposition de réponses, mais les exercices de simulation restent souvent centrés sur les humains. L’article appelle à tester les hallucinations des systèmes, leurs défaillances, les limites des garde-fous et la capacité des équipes à travailler sans eux.

CN
Les préoccupations liées à la confidentialité et à la précision freinent l’adoption de l’intelligence artificielle dans le domaine de la santé par les patients

Les préoccupations liées à la confidentialité et à la précision freinent l’adoption de l’intelligence artificielle dans le domaine de la santé par les patients

Une étude menée par Wolters Kluwer en collaboration avec Ipsos révèle que les préoccupations concernant la confidentialité des données, les biais des modèles et les hallucinations rendent les patients américains moins disposés à utiliser l’intelligence artificielle pour des tâches nécessitant des données de santé personnelles. Environ 89 % d’entre eux demandent une supervision humaine des réponses de santé produites par l’intelligence artificielle.

CN
La Maison-Blanche lance America.gov pour utiliser l’intelligence artificielle afin d’accéder aux services gouvernementaux

La Maison-Blanche lance America.gov pour utiliser l’intelligence artificielle afin d’accéder aux services gouvernementaux

Le président américain Donald Trump a annoncé le lancement d’America.gov, une interface conversationnelle destinée à simplifier l’accès aux informations et aux services gouvernementaux, avec la participation de Google et de son modèle Gemini, ainsi que l’utilisation de Grok, selon un responsable gouvernemental. Le projet soulève des questions concernant les risques d’hallucination lorsque les utilisateurs s’appuient sur les réponses du modèle pour les visas, les impôts et les prestations.

CN
La FDA finance l’évaluation de l’utilisation de modèles de langage pour évaluer des comptes rendus radiologiques générés par l’IA

La FDA finance l’évaluation de l’utilisation de modèles de langage pour évaluer des comptes rendus radiologiques générés par l’IA

La Food and Drug Administration américaine a accordé à Cognita Imaging un contrat de recherche de 1,29 million de dollars afin de tester la capacité d’un ensemble de grands modèles de langage à évaluer des comptes rendus radiologiques produits par des systèmes d’intelligence artificielle. Le projet vise à mesurer les hallucinations et les omissions, ainsi qu’à déterminer les cas nécessitant une revue par un radiologue.

CN
Guide pratique pour comprendre le langage de l’intelligence artificielle : des modèles linguistiques au « raisonnement opaque »

Guide pratique pour comprendre le langage de l’intelligence artificielle : des modèles linguistiques au « raisonnement opaque »

Cet article rassemble et explique un large éventail de termes devenus essentiels pour comprendre les modèles d’intelligence artificielle, leur architecture, ainsi que leurs méthodes d’entraînement et de fonctionnement. Il met également en lumière des concepts plus récents tels que les agents, le protocole MCP et le raisonnement opaque, tout en clarifiant les limites et les risques qui leur sont associés.