L’Association médicale américaine (AMA) a publié un nouveau cadre pour la gouvernance des agents d’intelligence artificielle dans les soins de santé, afin de définir les conditions d’utilisation d’outils capables d’exécuter plusieurs tâches cliniques en plusieurs étapes avec un certain degré d’autonomie. Le cadre insiste sur la nécessité de fonder ces solutions sur des données probantes claires et de maintenir un niveau de performance élevé avant de les autoriser à exécuter des fonctions ayant une incidence sur les soins aux patients.
Les agents d’intelligence artificielle se distinguent des outils traditionnels d’intelligence artificielle générative par leur capacité à exécuter une série d’actions sans supervision humaine continue. Parmi les utilisations potentielles figurent la documentation clinique périphérique, l’aide au diagnostic et la surveillance des patients. Toutefois, une erreur ou un biais dans une décision autonome pourrait causer un préjudice au patient avant l’intervention du médecin.
Quatre questions avant de déléguer une tâche
Le cadre de l’AMA propose de fonder l’évaluation de tout agent clinique sur quatre questions principales :
- Quelle fonction clinique le système d’intelligence artificielle exécute-t-il ?
- Quelles preuves démontrent sa capacité à exécuter cette fonction, et que se passe-t-il en cas d’échec ?
- Quelles actions devrait-on autoriser le système à exécuter, et dans quelles conditions ?
- Qui assume la responsabilité des risques et des résultats ?
L’association résume sa position en affirmant que les données probantes, les autorisations, la supervision et la responsabilité doivent rester alignées sur l’objectif d’amélioration des soins aux patients, tout en soulignant le rôle central des médecins dans le développement et le déploiement de ces technologies.
Pourquoi ce cadre est-il important ?
Cette initiative intervient alors que les expérimentations d’agents d’intelligence artificielle se multiplient au sein des établissements de soins de santé. Selon une enquête menée auprès de 250 dirigeants du secteur des soins de santé aux États-Unis, 28 % des établissements ont déclaré avoir déjà déployé des outils de ce type, tandis que 44 % ont indiqué mener des expérimentations ou des projets de preuve de concept. La plupart des participants s’attendent à un impact transformationnel sur les flux de travail cliniques.
En revanche, 72 % des participants ont déclaré que les outils d’agents d’intelligence artificielle étaient parfois déployés sans l’accord du service informatique. Cela témoigne d’une lacune dans la supervision institutionnelle ; plus de la moitié des participants ont considéré les risques de non-respect des exigences de conformité ou de réglementation, ainsi que l’accès non autorisé aux informations de santé protégées, comme faisant partie des principales préoccupations.
Des orientations en l’absence de réglementation fédérale globale
Le secteur des soins de santé évolue dans un contexte de réglementation fédérale incomplète de l’intelligence artificielle, ce qui a poussé des groupes professionnels et industriels à élaborer des principes et des contrôles provisoires. Aux États-Unis, les lois varient selon les États : certains renforcent les restrictions, tandis que d’autres expérimentent des utilisations des soins de santé soutenues par l’intelligence artificielle. Selon le cabinet juridique et de conseil Manatt, 47 États ont présenté plus de 250 projets de loi ayant une incidence sur l’intelligence artificielle dans les soins de santé au cours de l’année 2025.
Le cadre ne détermine pas à lui seul comment chaque agent doit être approuvé et n’élimine pas les risques opérationnels, mais il fournit une base pratique pour soulever les questions de responsabilité, d’autorisations et de données probantes avant d’introduire des outils autonomes dans les parcours de soins des patients. La manière de traduire ces principes en exigences mesurables et de répartir la responsabilité entre les médecins, les établissements et les développeurs de systèmes reste à définir.