Die American Medical Association (AMA) hat in einem aktuellen Leitbericht betont, dass die Verantwortung für Fehler, die durch künstliche Intelligenz im medizinischen Sektor entstehen, nicht allein bei den Ärzten liegt, sondern gerecht zwischen den Entwicklern dieser Technologien und den Gesundheitseinrichtungen, die sie einsetzen, aufgeteilt werden muss.
Verteilung der Verantwortlichkeiten im KI-Umfeld
Gemäß dem neuen Rahmen hat jede Partei eine spezifische Rolle bei der Risikominderung:
- Entwickler: Tragen die Hauptverantwortung für die Entwicklung sicherer und präziser Werkzeuge sowie für die Bereitstellung transparenter Informationen über den beabsichtigten Zweck, die Leistung und die technischen Einschränkungen, anstatt sich lediglich rechtlich abzusichern.
- Gesundheitseinrichtungen (Betreiber): Krankenhäuser und Gesundheitssysteme tragen die Verantwortung für die Auswahl geeigneter Werkzeuge, deren Bewertung vor dem Einsatz, die Bereitstellung der erforderlichen Schulungen für Ärzte und die Überwachung der Modellleistung, um sicherzustellen, dass die Genauigkeit im Laufe der Zeit nicht nachlässt.
- Ärzte: Sie bleiben dafür verantwortlich, ihr klinisches Urteilsvermögen auszuüben, einschließlich der Überprüfung von KI-Ergebnissen und der Ablehnung von Empfehlungen bei Bedarf, sollten jedoch kein „Sicherheitsnetz“ für technische Fehler sein, auf die sie keinen Einfluss haben oder die sie nicht erkennen können.
Warum diese Nachricht wichtig ist
Dieser Schritt erfolgt zu einer Zeit, in der der Einsatz von künstlicher Intelligenz zur Unterstützung klinischer Entscheidungen und zur Verringerung des Verwaltungsaufwands zunimmt. Eine von der American Medical Association im Jahr 2026 durchgeführte Umfrage zeigte jedoch, dass ein Drittel der Ärzte die Klarheit der rechtlichen Rahmenbedingungen als den Haupttreiber für die Einführung dieser Technologien ansieht. Die Umfrage ergab auch eine erhebliche Lücke in der Ausbildung: Ein Viertel der Ärzte hat keinerlei Schulung im Umgang mit KI-Werkzeugen erhalten, während 92 % den Wunsch nach zusätzlicher Schulung äußerten.
Was ändert sich in der Praxis?
Der Rahmen zielt darauf ab, klare Standards zu etablieren, die Opfern von KI-Fehlern rechtliche Wege zur Entschädigung durch die tatsächlich verantwortliche Partei eröffnen. Die Vereinigung argumentiert, dass diese Zuordnung von Verantwortlichkeiten nicht nur Ärzte vor unfairen Gerichtsverfahren schützt, sondern auch die Patientensicherheit erhöht, indem jede Partei zur Umsetzung bewährter Verfahren in ihrem Zuständigkeitsbereich verpflichtet wird. Darüber hinaus forderte die AMA in Kommentaren an die US-amerikanische Arzneimittelbehörde (FDA), dass Entwickler die Verantwortung für die Überwachung von Medizinprodukten tragen müssen, die auf generativer künstlicher Intelligenz basieren, um eine Überlastung der Gesundheitsdienstleister, insbesondere in kleinen und ländlichen Einrichtungen, zu vermeiden.