Datenschutz und Technologiepolitik

Datenschutz- und Genauigkeitsbedenken bremsen die Einführung von Gesundheits-KI durch Patienten

Eine von Wolters Kluwer in Zusammenarbeit mit Ipsos durchgeführte Studie zeigt, dass Bedenken hinsichtlich des Datenschutzes, der Verzerrung von Modellen und von Halluzinationen US-amerikanische Patienten weniger bereit machen, künstliche Intelligenz für Aufgaben zu nutzen, die persönliche Gesundheitsdaten erfordern. Rund 89 % fordern eine menschliche Aufsicht über von künstlicher Intelligenz erzeugte Antworten zu Gesundheitsthemen.

2026-10-01
3 Min. Lesezeit
1,022 Aufrufe
certi.news Editorial Team
Datenschutz- und Genauigkeitsbedenken bremsen die Einführung von Gesundheits-KI durch Patienten

Eine neue Studie zeigt, dass das Vertrauen US-amerikanischer Patienten in Gesundheits-KI nicht mit ihrer schnellen Verbreitung im Alltag Schritt hält. Je mehr ein Tool den Zugriff auf persönliche Daten oder geschützte Gesundheitsinformationen erfordert, desto geringer ist die Bereitschaft der Patienten, es zu nutzen, obwohl sie einen klaren Nutzen im schnellen Zugang zu Informationen sehen.

Das Unternehmen Ipsos führte die Umfrage im Auftrag von Wolters Kluwer im März durch. Befragt wurden 254 Patienten in den Vereinigten Staaten. 40 % der Teilnehmer gaben an, künstliche Intelligenz in ihrem Privatleben mindestens einmal täglich zu nutzen, doch ihre Verwendung für praktische Gesundheitsaufgaben blieb begrenzt.

Lücke zwischen Nutzen und Vertrauen

Rund ein Viertel der Teilnehmer sagte, dass die Suche nach Symptomen oder Gesundheitszuständen mithilfe künstlicher Intelligenz sie dazu veranlasst habe, früher medizinische Versorgung in Anspruch zu nehmen. Teilnehmer im Alter von 25 bis 34 Jahren sowie Bewohner ländlicher Gebiete sahen in einem schnelleren Zugang zu Gesundheitsantworten den wichtigsten Vorteil gegenüber dem Warten auf eine Antwort des Arztes.

Weniger als ein Drittel der Teilnehmer zeigte sich jedoch bereit, künstliche Intelligenz für Dienste zu nutzen, die auf persönlichen Daten beruhen. Rund 30 % würden sie nach eigenen Angaben möglicherweise verwenden, um einen Gesundheitsdienstleister zu finden, 28 % zur Erstellung eines persönlichen Plans für Ernährung, Bewegung oder Schlaf, während der Anteil beim Verständnis des Krankenversicherungsschutzes nur 19 % betrug.

Datenschutz ist nicht die einzige Sorge

Mehr als 70 % der Patienten sind wegen des Datenschutzes ihrer geschützten Gesundheitsinformationen besorgt. Diese Bedenken waren bei Frauen und Bewohnern ländlicher Gebiete deutlicher ausgeprägt. Zudem gaben 72 % an, eine Verzerrung von Systemen der künstlichen Intelligenz zu befürchten, während 69 % ihre Sorge darüber äußerten, dass erfundene oder ungenaue Antworten erzeugt werden könnten – ein Problem, das als „Halluzination“ bekannt ist. Teilnehmer im Alter von 25 bis 29 Jahren waren im Vergleich zu anderen Altersgruppen stärker über die Risiken künstlicher Intelligenz besorgt.

Die Ergebnisse deuten darauf hin, dass die Akzeptanz durch Patienten nicht allein vom Vorhandensein des Tools abhängt, sondern auch davon, wie es eingesetzt wird und wer die Verantwortung für seine Ergebnisse trägt. Rund 89 % waren der Ansicht, dass von künstlicher Intelligenz erzeugte Antworten zu Gesundheitsthemen eine menschliche Überprüfung benötigen. Außerdem erwartete die Mehrheit der Teilnehmer, dass klinische KI-Tools vor ihrem Einsatz eine formelle Zulassung durch das Gesundheitssystem erhalten.

Was bedeutet das für Gesundheitsorganisationen?

Die Studie macht deutlich, dass Gesundheitsorganisationen veröffentlichte Richtlinien für die Governance künstlicher Intelligenz und klare Standards für ihre Nutzung benötigen, insbesondere wenn sie mit geschützten Gesundheitsinformationen umgeht. Auch der Einsatz von Tools ohne Zustimmung der IT-Abteilung könnte die Vertrauenslücke vergrößern, statt sie zu schließen.

Die wichtigste offene Frage besteht darin, die Verantwortung zu bestimmen, wenn eine Empfehlung der künstlichen Intelligenz falsch oder schädlich ist. Fast die Hälfte der Teilnehmer sagte, dass KI-Tools zur Erteilung von Gesundheitsratschlägen Tests und einer bundesstaatlichen Genehmigung unterliegen sollten, ähnlich der Prüfung, die für neue Medikamente vorgeschrieben ist. Die Umfrageergebnisse allein belegen nicht, dass dieses Regulierungsmodell eingeführt wird, doch sie zeigen, dass Datenschutz, Aufsicht und Rechenschaftspflicht zu praktischen Voraussetzungen für eine Ausweitung der Nutzung von Gesundheits-KI geworden sind.

Nachrichtenquelle
c
Autor

certi.news Editorial Team

Das Wichtigste

Eine Studie mit 254 US-amerikanischen Patienten deutet darauf hin, dass Datenschutzbedenken, Verzerrungen und Halluzinationen die Bereitschaft der Patienten begrenzen, KI für gesundheitsbezogene Aufgaben zu nutzen, die persönliche Daten erfordern. Rund 89 % fordern eine menschliche Überprüfung der von diesen Tools erzeugten Gesundheitsantworten.

  • Ipsos führte die Umfrage im März im Auftrag von Wolters Kluwer durch; daran nahmen 254 Patienten in den Vereinigten Staaten teil.
  • Mehr als 70 % der Befragten äußerten Bedenken hinsichtlich der Privatsphäre ihrer geschützten Gesundheitsinformationen.
  • 72 % gaben an, dass sie eine Verzerrung von KI-Systemen befürchten, während 69 % über erfundene oder ungenaue Antworten besorgt waren, die als Halluzinationen bezeichnet werden.
  • Weniger als ein Drittel der Befragten war bereit, KI für Dienstleistungen zu nutzen, die auf persönlichen Daten beruhen, etwa um einen Gesundheitsdienstleister zu finden oder einen persönlichen Gesundheitsplan zu erstellen.
  • Rund 89 % waren der Ansicht, dass von KI erzeugte Gesundheitsantworten eine menschliche Überprüfung benötigen.
  • Die Studie weist auf die Bedeutung klarer Governance-Richtlinien, menschlicher Aufsicht und einer Festlegung der Verantwortlichkeiten hin, bevor der Einsatz von KI im Gesundheitswesen ausgeweitet wird.

FAQ

Was sind die größten Bedenken der Patienten gegenüber KI im Gesundheitswesen?

Datenschutz, eine mögliche Verzerrung der Systeme sowie die Erzeugung erfundener oder ungenauer Antworten.

Wie hoch ist der Anteil der Patienten, die eine menschliche Überprüfung verlangen?

Rund 89 % der Befragten waren der Ansicht, dass von KI erzeugte Gesundheitsantworten eine menschliche Überprüfung benötigen.

Wie bereit sind Patienten, KI mit ihren persönlichen Daten zu nutzen?

Weniger als ein Drittel der Befragten war bereit, KI für Dienstleistungen zu nutzen, die auf persönlichen Daten beruhen; 30 % gaben an, dass sie sie möglicherweise zur Suche nach einem Gesundheitsdienstleister nutzen würden, und 28 % zur Erstellung eines persönlichen Plans für Ernährung, Bewegung oder Schlaf.

Belegt die Studie, dass KI-Tools im Gesundheitswesen einer bundesweiten Genehmigung unterliegen werden?

Nein. Der Artikel weist darauf hin, dass die Umfrageergebnisse die Einführung eines solchen Regulierungsmodells nicht belegen, aber zeigen, dass viele Patienten Tests und eine formelle Genehmigung befürworten.

Aus derselben Kategorie

Das könnte Sie interessieren

Alle Nachrichten anzeigen