La Food and Drug Administration (FDA) américaine s'oriente vers l'élaboration d'un nouveau cadre réglementaire pour l'intelligence artificielle générative utilisée dans les dispositifs médicaux, après avoir reçu plus de 500 commentaires de la part d'acteurs du secteur de la santé, notamment des entreprises de dispositifs médicaux, des groupements de médecins et des organisations de patients. Cette démarche fait suite à un document de discussion publié par l'agence en août dernier, dans lequel elle proposait d'évaluer les dispositifs basés sur l'intelligence artificielle générative par le biais d'un cadre inspiré de l'accréditation des médecins, en mettant l'accent sur une surveillance continue après la mise sur le marché du produit.
Divergence des avis sur la réglementation
Les commentaires ont révélé une division claire des visions sur la manière de gérer cette technologie :
- Le secteur industriel : Des groupes de pression tels qu'AdvaMed ont demandé à l'agence de s'appuyer sur les cadres réglementaires existants plutôt que d'inventer un nouveau cadre spécifique à l'intelligence artificielle générative, affirmant que l'inclusion de cette technologie ne devrait pas imposer automatiquement des évaluations d'efficacité supplémentaires.
- La communauté médicale : Les cardiologues de la société (SCAI) ont souligné la nécessité de faire une distinction précise entre les outils d'aide à la décision et les outils de prise de décision effective, mettant en garde contre la frontière floue créée par l'intelligence artificielle générative.
- Les patients et les consommateurs : L'organisation Generation Patient a exigé le renforcement de la surveillance après la mise sur le marché du produit, prévenant qu'une dépendance excessive à l'égard de la surveillance ultérieure plutôt que des tests rigoureux préalables à la commercialisation risquait de reporter la charge des risques sur les patients.
Défis techniques et de sécurité
Des laboratoires de recherche, tels que le laboratoire (Brainstorm) de l'Université de Stanford, ont soulevé des préoccupations techniques fondamentales. Le Dr Nina Vasan a indiqué que les modèles d'intelligence artificielle générative peuvent présenter un comportement sûr au début, mais se dégrader à mesure que la conversation se prolonge. Elle a également suggéré la nécessité d'un système d'évaluation distinct pour les défaillances aux conséquences désastreuses, telles que l'occultation de risques suicidaires ou le diagnostic erroné de cas critiques, soulignant qu'une erreur de modèle se répète chez tous les patients et sur tous les sites, contrairement à l'erreur d'un médecin humain qui reste locale.
Qu'est-ce que cela signifie pour les utilisateurs ?
L'importance de ces débats réside dans la définition de la responsabilité juridique et technique en matière de sécurité des dispositifs. Alors que des entreprises telles qu'Oura cherchent à obtenir des exemptions pour les dispositifs fournissant des informations générales (bien-être), les défenseurs des patients exigent que les outils de discussion simulant des relations émotionnelles ne soient pas exemptés d'un contrôle strict, compte tenu de leur utilisation croissante dans la fourniture de conseils en matière de santé mentale. La question reste ouverte quant à la manière dont l'agence parviendra à concilier l'encouragement de l'innovation médicale et la garantie de la sécurité des patients face à une technologie dont les résultats changent constamment.