Eine neue Studie zeigt, dass das Vertrauen US-amerikanischer Patienten in Gesundheits-KI nicht mit ihrer schnellen Verbreitung im Alltag Schritt hält. Je mehr ein Tool den Zugriff auf persönliche Daten oder geschützte Gesundheitsinformationen erfordert, desto geringer ist die Bereitschaft der Patienten, es zu nutzen, obwohl sie einen klaren Nutzen im schnellen Zugang zu Informationen sehen.
Das Unternehmen Ipsos führte die Umfrage im Auftrag von Wolters Kluwer im März durch. Befragt wurden 254 Patienten in den Vereinigten Staaten. 40 % der Teilnehmer gaben an, künstliche Intelligenz in ihrem Privatleben mindestens einmal täglich zu nutzen, doch ihre Verwendung für praktische Gesundheitsaufgaben blieb begrenzt.
Lücke zwischen Nutzen und Vertrauen
Rund ein Viertel der Teilnehmer sagte, dass die Suche nach Symptomen oder Gesundheitszuständen mithilfe künstlicher Intelligenz sie dazu veranlasst habe, früher medizinische Versorgung in Anspruch zu nehmen. Teilnehmer im Alter von 25 bis 34 Jahren sowie Bewohner ländlicher Gebiete sahen in einem schnelleren Zugang zu Gesundheitsantworten den wichtigsten Vorteil gegenüber dem Warten auf eine Antwort des Arztes.
Weniger als ein Drittel der Teilnehmer zeigte sich jedoch bereit, künstliche Intelligenz für Dienste zu nutzen, die auf persönlichen Daten beruhen. Rund 30 % würden sie nach eigenen Angaben möglicherweise verwenden, um einen Gesundheitsdienstleister zu finden, 28 % zur Erstellung eines persönlichen Plans für Ernährung, Bewegung oder Schlaf, während der Anteil beim Verständnis des Krankenversicherungsschutzes nur 19 % betrug.
Datenschutz ist nicht die einzige Sorge
Mehr als 70 % der Patienten sind wegen des Datenschutzes ihrer geschützten Gesundheitsinformationen besorgt. Diese Bedenken waren bei Frauen und Bewohnern ländlicher Gebiete deutlicher ausgeprägt. Zudem gaben 72 % an, eine Verzerrung von Systemen der künstlichen Intelligenz zu befürchten, während 69 % ihre Sorge darüber äußerten, dass erfundene oder ungenaue Antworten erzeugt werden könnten – ein Problem, das als „Halluzination“ bekannt ist. Teilnehmer im Alter von 25 bis 29 Jahren waren im Vergleich zu anderen Altersgruppen stärker über die Risiken künstlicher Intelligenz besorgt.
Die Ergebnisse deuten darauf hin, dass die Akzeptanz durch Patienten nicht allein vom Vorhandensein des Tools abhängt, sondern auch davon, wie es eingesetzt wird und wer die Verantwortung für seine Ergebnisse trägt. Rund 89 % waren der Ansicht, dass von künstlicher Intelligenz erzeugte Antworten zu Gesundheitsthemen eine menschliche Überprüfung benötigen. Außerdem erwartete die Mehrheit der Teilnehmer, dass klinische KI-Tools vor ihrem Einsatz eine formelle Zulassung durch das Gesundheitssystem erhalten.
Was bedeutet das für Gesundheitsorganisationen?
Die Studie macht deutlich, dass Gesundheitsorganisationen veröffentlichte Richtlinien für die Governance künstlicher Intelligenz und klare Standards für ihre Nutzung benötigen, insbesondere wenn sie mit geschützten Gesundheitsinformationen umgeht. Auch der Einsatz von Tools ohne Zustimmung der IT-Abteilung könnte die Vertrauenslücke vergrößern, statt sie zu schließen.
Die wichtigste offene Frage besteht darin, die Verantwortung zu bestimmen, wenn eine Empfehlung der künstlichen Intelligenz falsch oder schädlich ist. Fast die Hälfte der Teilnehmer sagte, dass KI-Tools zur Erteilung von Gesundheitsratschlägen Tests und einer bundesstaatlichen Genehmigung unterliegen sollten, ähnlich der Prüfung, die für neue Medikamente vorgeschrieben ist. Die Umfrageergebnisse allein belegen nicht, dass dieses Regulierungsmodell eingeführt wird, doch sie zeigen, dass Datenschutz, Aufsicht und Rechenschaftspflicht zu praktischen Voraussetzungen für eine Ausweitung der Nutzung von Gesundheits-KI geworden sind.