Die Coalition for Health AI (CHAI) hat die Bildung einer Arbeitsgruppe mit rund 100 Führungskräften aus Gesundheitssystemen, Versicherungsunternehmen und dem Industriesektor angekündigt, um die mit fortgeschrittenen KI-Modellen verbundenen Cyberrisiken zu bewältigen, die als Frontier AI bekannt sind. Die Gruppe wird sich alle zwei Wochen treffen und bis Ende 2026 Leitlinien für die Cybersicherheit im Bereich der Gesundheits-KI erstellen und veröffentlichen.
Zu den Ergebnissen der Gruppe gehören ein Instrument zur Bewertung von KI-Risiken sowie Leitfäden zu defensiven und offensiven Sicherheitsstrategien. Ihre Bildung erfolgt zu einem Zeitpunkt, an dem CHAI der Ansicht ist, dass die jüngsten Entwicklungen bei fortgeschrittenen Modellen die Art der Cyberbedrohungen für den Gesundheitssektor grundlegend verändert haben.
Leistungsfähigere und autonomere Modelle
Die Allianz erklärte, die Einführung der beiden fortgeschrittenen KI-Modelle Mythos und Fable durch Anthropic im Frühjahr habe als Auslöser für die Einrichtung der Arbeitsgruppe gedient. Fable ist die öffentlich zugängliche Version, während Mythos dem Artikel zufolge in der Lage ist, Cybersicherheitslücken selbstständig zu erkennen und in funktionsfähige Exploits umzuwandeln.
Diese Modelle gehören zu den leistungsfähigsten derzeit verfügbaren KI-Systemen. Sie können komplexe Aufgaben bewältigen, riesige Informationsmengen verarbeiten und ohne kontinuierliche menschliche Anleitung autonom arbeiten. Dies bietet Gesundheitseinrichtungen die Möglichkeit, ihre Abwehrfähigkeiten zu verbessern, ermöglicht es angreifenden Akteuren jedoch zugleich, die Geschwindigkeit, das Ausmaß und die Wirksamkeit von Angriffen zu erhöhen.
Beteiligung von Führungskräften aus Gesundheitswesen und Cybersicherheit
John Flores, Chief Information Security Officer der University of Texas Medical Branch, gehört dem 14-köpfigen Führungsgremium an, das die Arbeit der Arbeitsgruppe steuert. Ihm schließen sich Vertreter anderer Gesundheitssysteme an, darunter Baptist Health und Duke Health, sowie Verantwortliche und Fachleute aus Unternehmen für Gesundheitstechnologie und Cybersicherheit, Organisationen für den Austausch von Bedrohungsinformationen und Einrichtungen zur Entwicklung von Standards.
Flores erklärte, Gesundheitseinrichtungen hätten stets vor Herausforderungen im Bereich der Cybersicherheit gestanden, doch die aktuellen Entwicklungen in der künstlichen Intelligenz hätten das Ausmaß der Bedrohung verändert, der sie ausgesetzt seien. Isaiah Nathaniel, Senior Vice President und Chief Information Security Officer von Delaware Valley Community Health sowie Mitglied des Führungsgremiums, betonte ebenfalls die Notwendigkeit, alle Bereiche des Gesundheitssektors, einschließlich kleiner Systeme, auf den Umgang mit den negativen Aspekten des technologischen Fortschritts vorzubereiten.
Zunehmender Druck auf Gesundheitseinrichtungen
Gesundheitseinrichtungen waren in den vergangenen Jahren einer großen Zahl von Cyberangriffen und Datenschutzverletzungen ausgesetzt. Diese Vorfälle können die Patientenversorgung beeinträchtigen, etwa durch die Umleitung von Rettungsfahrzeugen, die Absage von Terminen und Operationen oder die Außerbetriebnahme elektronischer Gesundheitsaktensysteme.
Nach Angaben von Fortified Health Security haben Krankenhäuser im ersten Quartal 2026 nur 6 % der ermittelten Cyberrisiken behoben, verglichen mit 23 % im ersten Quartal 2025. Diese Zahlen zeigen, dass das Ausmaß der entdeckten Schwachstellen die Fähigkeit der Gesundheitseinrichtungen zu ihrer Behebung übersteigt. Dadurch gewinnt die Entwicklung von Leitlinien und Instrumenten an Bedeutung, die ihnen helfen, die Risiken von KI-Modellen zu bewerten und auf sie zu reagieren.