La Food and Drug Administration américaine (FDA) est sur le point de mettre en place un cadre réglementaire pour l’utilisation de l’intelligence artificielle générative dans les dispositifs médicaux, alors qu’aucun dispositif médical utilisant cette technologie ne fait encore l’objet d’une réglementation de la FDA. Les entreprises de dispositifs médicaux suivent la direction que prendra l’agence, notamment en ce qui concerne la démonstration de la sécurité et de l’efficacité, ainsi que la garantie du maintien des performances des modèles après leur mise sur le marché.
L’agence a publié en août un document de réflexion dans lequel elle sollicitait l’avis des parties prenantes sur les moyens de garantir la sécurité des dispositifs utilisant l’intelligence artificielle avant et après leur arrivée sur le marché. Grace Davis Jamison, porte-parole du ministère américain de la Santé et des Services sociaux, a déclaré que l’objectif était de comprendre les difficultés propres aux dispositifs utilisant l’intelligence artificielle générative et de contribuer à l’élaboration de futures orientations.
Une technologie présente dans les essais, mais pas encore dans les produits autorisés
Le document indique que la FDA a jusqu’à présent autorisé plus de 1 500 dispositifs intégrant un composant d’intelligence artificielle, mais qu’elle n’a autorisé aucun dispositif utilisant l’intelligence artificielle générative. L’agence a néanmoins accordé la désignation « Breakthrough Device » à un nombre limité d’outils en cours de développement, notamment à deux fonctionnalités distinctes d’Aidoc et d’une filiale de Radiology Partners destinées à analyser des radiographies thoraciques et à préparer des projets de comptes rendus radiologiques, ainsi qu’à un outil de Modella AI destiné à analyser des images de pathologie et des données cliniques.
La FDA a également inclus des dispositifs reposant sur l’intelligence artificielle générative dans un programme pilote de santé numérique appelé Technology-Enabled Meaningful Patient Outcomes, ou TEMPO. Ce programme permet aux entreprises de recueillir des données en situation réelle tout en les dispensant des exigences d’autorisation préalable à la mise sur le marché. Parmi les participants figure Limbic, qui propose une thérapie cognitivo-comportementale par téléphone, au cours de laquelle un agent vocal fonctionnant grâce à l’intelligence artificielle interagit avec l’utilisateur.
En revanche, certaines fonctionnalités actuelles ne sont pas soumises à l’examen de la FDA. En 2024, Dexcom a ajouté une fonctionnalité générative à ses capteurs de glucose disponibles sans ordonnance afin d’analyser les données des utilisateurs et de fournir des recommandations personnalisées en matière de bien-être. L’entreprise a déclaré que cette fonctionnalité ne nécessitait pas de demande réglementaire préalable à la mise sur le marché.
Passer des essais du produit à une évaluation fondée sur les compétences
Le document de réflexion reconnaît que l’intelligence artificielle générative s’intègre difficilement dans les cadres actuels applicables aux dispositifs médicaux. Les systèmes peuvent produire des textes ou des images différents en réponse à des données d’entrée variables, ce qui complique le test de toutes les possibilités ainsi que la mesure de la sécurité et de l’efficacité. Les hallucinations, c’est-à-dire la production d’informations erronées mais apparemment fiables, soulèvent également des inquiétudes supplémentaires, tout comme la possibilité d’une baisse des performances du modèle au fil du temps.
La FDA propose le concept d’« évaluation fondée sur les compétences », en s’inspirant de la manière dont les médecins sont évalués au moyen d’examens, de la supervision et de la communication publique. Au lieu d’essayer d’examiner chaque entrée et chaque sortie possibles, l’examen préalable à la mise sur le marché pourrait davantage s’appuyer sur l’évaluation comparative et sur des tests mesurant le niveau de compétence requis.
L’agence envisage également la création de dossiers maîtres facultatifs pour les modèles de base. Selon ce scénario, les développeurs de modèles ou de plateformes de base pourraient fournir des informations confidentielles à la FDA, permettant ainsi à l’autorité réglementaire de comprendre la technologie utilisée au sein d’un dispositif médical sans demander à chaque fabricant de dispositifs de divulguer tous les secrets commerciaux du modèle sur lequel il s’appuie.
La surveillance après la mise sur le marché fera partie de l’équation
Le document souligne l’importance de la surveillance des dispositifs après leur mise sur le marché. La FDA étudie la possibilité d’accepter un degré plus élevé d’incertitude avant la mise sur le marché, en contrepartie d’un recours accru aux données et à la surveillance ultérieure. Kayla Cristales, avocate chez Haynes Boone, estime que l’agence pourrait s’appuyer largement sur les entreprises elles-mêmes pour fournir les mises à jour et suivre l’évolution des dispositifs.
Cette question concerne un problème que les seuls essais d’autorisation initiaux ne permettent pas de résoudre : le modèle peut changer, les données d’utilisation peuvent évoluer ou des schémas de défaillance qui n’étaient pas apparents pendant les essais peuvent apparaître. Toutefois, la source ne précise pas encore les critères de surveillance, la fréquence des mises à jour ni la répartition détaillée des responsabilités entre les développeurs et les établissements de santé.
Pourquoi cette information est-elle importante ?
Les entreprises attendent les orientations avec des degrés d’impatience variables. Erez Kaminski, directeur général de Ketryx, a déclaré que certains développeurs poursuivaient leurs activités, tandis que d’autres préféraient attendre, en fonction de la taille de l’entreprise et de sa propension au risque. Selon les experts cités dans le document, nombre d’outils actuels se concentrent sur les usages administratifs, l’amélioration des flux de travail ou l’application de directives connues, des domaines qui pourraient ne pas nécessiter de considérer le produit comme un dispositif médical soumis à réglementation.
Quant aux entreprises qui ont déjà accepté d’entrer dans le domaine réglementé, comme Aidoc, elles considèrent les orientations spécialisées comme utiles, sans pour autant les juger déterminantes pour progresser. Sharif Vakili, directeur général d’UpDoc, a déclaré que l’absence de leadership réglementaire pourrait conduire le marché à un mélange de règles différentes ou à des réactions tardives face aux usages abusifs.
D’un point de vue éditorial, le véritable changement ne réside pas encore dans la publication d’une règle contraignante, mais dans le passage de la FDA d’une discussion générale sur l’intelligence artificielle à l’examen d’outils réglementaires précis : l’évaluation fondée sur les compétences, les dossiers de modèles de base et la surveillance continue. Cela fournit aux entreprises des premiers repères, mais ne tranche pas encore la manière dont les modèles évolutifs seront autorisés ni la façon de déterminer les responsabilités lorsque les performances diminuent.
Les questions soulevées dépassent le cadre des entreprises de dispositifs médicaux. Kellie Owens, professeure adjointe d’éthique médicale à la NYU Grossman School of Medicine, a appelé à un renforcement de la surveillance après la mise sur le marché, tandis que Luis Gil Abinader, de Generation Patient, a demandé une supervision accrue des compagnons numériques et des agents conversationnels, qu’ils soient ou non commercialisés à des fins de santé. Les agents conversationnels commerciaux restent actuellement en dehors du champ de compétence de la FDA, malgré les inquiétudes liées à leur utilisation pour le soutien psychologique, notamment le fait que certains prétendent à tort proposer une psychothérapie. Le Centre des dispositifs de la FDA a également inscrit les orientations relatives aux données cliniques pour les dispositifs numériques de santé mentale sur sa liste des travaux en préparation pour l’exercice fiscal en cours.