Une nouvelle étude révèle que la confiance des patients américains dans l’intelligence artificielle appliquée à la santé ne suit pas la vitesse de sa diffusion dans la vie quotidienne. Plus l’outil nécessite l’accès à des données personnelles ou à des informations de santé protégées, moins les patients sont disposés à l’utiliser, malgré l’utilité évidente qu’ils voient dans l’accès rapide aux informations.
La société Ipsos a réalisé l’enquête pour le compte de Wolters Kluwer en mars, auprès de 254 patients aux États-Unis. Quarante pour cent des participants ont déclaré utiliser l’intelligence artificielle au moins une fois par jour dans leur vie personnelle, mais son utilisation pour des tâches de santé concrètes est restée limitée.
Un écart entre utilité et confiance
Environ un quart des participants ont déclaré que leurs recherches sur des symptômes ou des problèmes de santé au moyen de l’intelligence artificielle les avaient incités à consulter plus tôt. Les participants âgés de 25 à 34 ans ainsi que les habitants des zones rurales ont également estimé que l’accélération de l’accès aux réponses de santé constituait le principal avantage par rapport à l’attente d’une réponse d’un médecin.
Mais moins d’un tiers des participants se sont déclarés prêts à utiliser l’intelligence artificielle pour des services reposant sur des données personnelles. Environ 30 % ont indiqué qu’ils pourraient l’utiliser pour trouver un professionnel de santé, 28 % pour élaborer un plan personnalisé concernant l’alimentation, l’exercice ou le sommeil, tandis que la proportion n’était que de 19 % pour comprendre la couverture de l’assurance maladie.
La confidentialité n’est pas la seule source d’inquiétude
Plus de 70 % des patients sont préoccupés par la confidentialité de leurs informations de santé protégées. Ces préoccupations étaient plus marquées chez les femmes et les habitants des zones rurales. De même, 72 % ont déclaré craindre les biais des systèmes d’intelligence artificielle, tandis que 69 % se sont dits préoccupés par la production de réponses inventées ou inexactes, un problème connu sous le nom d’« hallucination ». Les participants âgés de 25 à 29 ans étaient plus préoccupés par les risques de l’intelligence artificielle que les autres groupes d’âge.
Les résultats indiquent que l’acceptation par les patients ne dépend pas seulement de l’existence de l’outil, mais aussi de son mode d’utilisation et de la personne qui assume la responsabilité de ses résultats. Environ 89 % ont estimé que les réponses de santé produites par l’intelligence artificielle nécessitaient une vérification humaine, tandis que la plupart des participants s’attendaient à ce que les outils d’intelligence artificielle clinique obtiennent une autorisation officielle du système de santé avant leur utilisation.
Qu’est-ce que cela signifie pour les organismes de santé ?
L’étude montre que les établissements de santé ont besoin de politiques publiques de gouvernance de l’intelligence artificielle et de normes claires pour son utilisation, en particulier lorsqu’elle traite des informations de santé protégées. L’utilisation d’outils sans l’accord du service informatique pourrait également accentuer le déficit de confiance au lieu de le réduire.
La principale question en suspens consiste à déterminer les responsabilités lorsqu’une recommandation de l’intelligence artificielle est erronée ou préjudiciable. Près de la moitié des participants ont déclaré que les outils d’intelligence artificielle utilisés pour fournir des conseils de santé devraient être soumis à des tests et à une approbation fédérale, à l’instar du contrôle imposé aux nouveaux médicaments. Les résultats de l’enquête ne prouvent pas à eux seuls que ce modèle réglementaire sera adopté, mais ils montrent que la confidentialité, la supervision et la responsabilité sont devenues des conditions concrètes pour élargir l’utilisation de l’intelligence artificielle dans le domaine de la santé.