Rick Abrahamson, Direktor des Digital Center of Excellence for Safer Technologies (DiCE) der US-amerikanischen Lebens- und Arzneimittelbehörde (FDA), hat bestätigt, dass die Formulierung regulatorischer Richtlinien für generative künstliche Intelligenz oberste Priorität hat, die bis in höchste Ebenen des Weißen Haus und des Ministeriums reicht. Er wies darauf hin, dass in den kommenden Monaten Entwürfe von Leitlinien erwartet werden.
Diese Äußerungen fielen während der Konferenz für Medizintechnik in Boston, zeitgleich mit dem Ablauf der Frist für die Entgegennahme von Stellungnahmen zu einem Diskussionspapier, das die Behörde zu den regulatorischen Rahmenbedingungen für generative KI veröffentlicht hat. Das Papier konzentrierte sich stark auf die Stärkung der Überwachung nach der Markteinführung von Produkten. Die Agentur erhielt mehr als 500 Kommentare und Beiträge von Interessenvertretern.
Regulatorische Prioritäten der Behörde
Abrahamson erklärte, dass das Diskussionspapier keine reine akademische oder intellektuelle Übung darstelle, sondern dass die Behörde beabsichtige, es bald in konkrete Richtlinien umzusetzen. Die Liste der regulatorischen Prioritäten der Behörde für das Haushaltsjahr 2027 umfasst zwei Hauptentwürfe:
- Entwurf zu KI-gestützten Geräten bei psychischen Erkrankungen: Dies ist das direkte Resultat von Sitzungen des Beratungsausschusses für digitale Gesundheit, die im vergangenen Jahr stattfanden, um Chatbots für die psychische Gesundheit zu diskutieren.
- Entwurf zur Risikobewertung und Evidenzgenerierung: Dieser dient als umfassender Orientierungsrahmen für Geräte, die auf generativer künstlicher Intelligenz basieren.
Darüber hinaus arbeitet die Behörde am Abschluss des Managements des KI-Lebenszyklus, dessen Entwurf Anfang 2025 erstellt wurde und auf Geräte mit stabileren Modellen abzielt.
Regulatorische Updates im Vereinigten Königreich
Den Schritten ihres US-amerikanischen Pendants folgend, präsentierte Jessica Paulsen, stellvertretende Direktorin für KI und Software bei der britischen Regulierungsbehörde für Arzneimittel und Medizinprodukte (MHRA), ähnliche regulatorische Updates. Die britische Behörde hat kürzlich 44 Empfehlungen einer unabhängigen Kommission zur Regulierung von KI im Gesundheitswesen angenommen.
Einige dieser Ausrichtungen decken sich mit dem US-amerikanischen Ansatz, insbesondere im Hinblick auf die Notwendigkeit, die Leistung von Geräten, die generative KI nutzen, im Laufe der Zeit zu überwachen, anstatt sich zu stark auf einmalige Bewertungen zu verlassen, die die tatsächliche Leistung unter veränderten Realbedingungen möglicherweise nicht widerspiegeln.
Warum diese Nachricht wichtig ist
Diese Entwicklung stellt einen entscheidenden Schritt hin zur Etablierung weitreichender regulatorischer Regeln dar, die den Einsatz von künstlicher und generativer Intelligenz im Gesundheitssektor und bei Medizinprodukten regeln. Da sich technologische Modelle ständig weiterentwickeln, trägt die Festlegung klarer Rahmenbedingungen für die Überwachung und Risikobewertung nach der Markteinführung dazu bei, Patientinnen und Patienten zu schützen und die Zuverlässigkeit dieser fortgeschrittenen Technologien in klinischen Umgebungen zu gewährleisten, parallel zur Förderung der internationalen regulatorischen Zusammenarbeit zwischen den Vereinigten Staaten und Großbritannien.