L'American Medical Association (AMA) a affirmé dans un récent rapport d'orientation que la responsabilité des erreurs résultant des outils d'intelligence artificielle dans le secteur médical ne repose pas uniquement sur les médecins, mais doit être répartie équitablement entre les développeurs de ces technologies et les institutions de santé qui les adoptent.
Répartition des responsabilités dans un environnement d'IA
Selon le nouveau cadre, chaque partie a un rôle spécifique dans l'atténuation des risques :
- Les développeurs : ils assument la responsabilité principale de la conception d'outils sûrs et précis, et de la fourniture d'informations transparentes sur l'utilisation prévue, les performances et les limitations techniques, plutôt que de se contenter de clauses de non-responsabilité juridique.
- Les institutions de santé (les opérateurs) : les hôpitaux et les systèmes de santé ont la responsabilité de choisir les outils appropriés, de les évaluer avant leur déploiement, de fournir la formation nécessaire aux médecins et de surveiller les performances des modèles pour garantir que leur précision ne diminue pas avec le temps.
- Les médecins : ils restent responsables de l'exercice de leur jugement clinique, ce qui inclut l'examen des résultats de l'IA et le rejet des recommandations si nécessaire, mais ils ne doivent pas servir de « filet de sécurité » pour des erreurs techniques sur lesquelles ils n'ont aucun contrôle ou qu'ils ne sont pas en mesure d'identifier.
Pourquoi cette nouvelle est-elle importante ?
Cette étape intervient à un moment où l'adoption de l'IA pour soutenir la prise de décision clinique et réduire les charges administratives est en pleine croissance. Cependant, un sondage mené par l'American Medical Association en 2026 a montré qu'un tiers des médecins considèrent la clarté des cadres de responsabilité juridique comme le principal moteur de l'adoption de ces technologies. Le sondage a également révélé un écart important en matière de formation, un quart des médecins n'ayant reçu aucune formation sur l'utilisation des outils d'IA, tandis que 92 % d'entre eux ont exprimé le souhait de recevoir une formation supplémentaire.
Qu'est-ce qui change concrètement ?
Le cadre vise à établir des normes claires permettant aux personnes lésées par les erreurs de l'IA de disposer de voies juridiques pour obtenir des compensations de la part de la partie réellement responsable. L'Association soutient que cette définition des responsabilités ne protège pas seulement les médecins contre des poursuites judiciaires injustifiées, mais renforce également la sécurité des patients en obligeant chaque partie à mettre en œuvre les meilleures pratiques dans son domaine de compétence. De plus, dans ses commentaires adressés à la Food and Drug Administration (FDA), l'Association a appelé à ce que les développeurs soient tenus responsables de la surveillance des dispositifs médicaux reposant sur l'IA générative, afin d'éviter de surcharger les prestataires de soins de santé, en particulier dans les petites institutions et les zones rurales.