Das deutsche Unternehmen Vara hat die CE-Kennzeichnung für ein KI-System erhalten, das Mammografieuntersuchungen autonom triagieren kann. Nach Angaben des Unternehmens handelt es sich um die erste europäische Zulassung für ein System, das die Ergebnisse der von ihm als unauffällig eingestuften Untersuchungen ohne Überprüfung durch einen Radiologen ausstellen kann. Die Zulassung erfolgt vor dem Hintergrund eines Mangels an Radiologen, die in Brustkrebs-Screeningprogrammen tätig sind.
Das System macht die menschliche Überprüfung nicht bei allen Untersuchungen überflüssig. Jede Untersuchung, die die künstliche Intelligenz als auffällig oder als weiter abklärungsbedürftig einstuft, muss von mindestens einem Radiologen überprüft werden. Bei Untersuchungen, die das System als unauffällig bewertet, kann der Befund im Rahmen der Funktion zur autonomen Triage automatisch erstellt werden.
Medizinische Zulassung mit kontinuierlicher Überwachung
Das System wurde gemäß der Medizinprodukteverordnung der Europäischen Union als Medizinprodukt der Klasse IIb zugelassen, die auf ein mittleres bis hohes Risikoniveau hinweist. Vara erklärte, das von ihr entwickelte Sicherheitssystem zur Überwachung von KI-Modellen habe dabei geholfen, die Anforderungen an die kontinuierliche menschliche Aufsicht über Hochrisiko-KI-Systeme im europäischen KI-Gesetz zu erfüllen.
Das Unternehmen nennt dieses System ATMON, eine Abkürzung für Autonomous-Triage Monitoring. Es überwacht Veränderungen an den Mammografiegeräten, den Systemstatus und die tägliche Leistung. Wenn diese Indikatoren die zuvor festgelegten Grenzwerte überschreiten, kann das System den Standort wieder in den Modus der vollständigen Befundung durch Radiologen versetzen.
Was ändert sich in der Praxis?
Vara zufolge ist die Funktion zur autonomen Triage nun für bevölkerungsweite Screeningprogramme in ganz Europa verfügbar. Die Einführung soll entsprechend den Leitlinien der jeweiligen Länder und der Bereitschaft ihrer Programme erfolgen. In Deutschland arbeiten nach Angaben des Unternehmens mehr als die Hälfte der organisierten Brustkrebs-Screeningprogramme mit Vara-Systemen und verarbeiten monatlich mehr als 250.000 Untersuchungen.
Vara stellt ATMON auch neuen und bestehenden Kunden zur Verfügung, selbst wenn diese nicht vollständig auf die autonome Triage umstellen. Das bedeutet, dass der Überwachungsmechanismus als zusätzliche Sicherheitsebene in Szenarien eingesetzt werden kann, die auf menschlicher Befundung oder ausschließlich auf Unterstützung durch künstliche Intelligenz beruhen.
Warum ist diese Nachricht wichtig?
Wichtig ist hier nicht lediglich die Ergänzung eines KI-Modells zum radiologischen Arbeitsablauf, sondern die Möglichkeit, dass es einen Teil der unauffälligen Untersuchungen ohne ärztliche Befundung abschließt, während die übrigen Fälle in der menschlichen Überprüfung verbleiben. Dadurch wird die Überwachung der Leistung während des Betriebs zu einem zentralen Faktor, da die Genauigkeit des Modells durch Veränderungen an den Bildgebungsgeräten oder durch abweichende Nutzungsbedingungen im Vergleich zur Studienumgebung beeinflusst werden kann.
Das Unternehmen verwies auf eine von ihm finanzierten und im vergangenen Jahr in der Zeitschrift Nature Medicine veröffentlichten großen Studie. Die zwischen 2021 und 2023 durchgeführte Studie umfasste mehr als 460.000 Frauen. Sie verglich die herkömmliche Doppelbefundung durch Radiologen mit einer durch künstliche Intelligenz unterstützten Doppelbefundung und stellte bei den durch künstliche Intelligenz unterstützten Befundungen eine höhere Brustkrebsentdeckungsrate fest. Die Zulassung der autonomen Triage wirft jedoch eine praktische Frage auf, die sich von der Leistung des Modells bei der Unterstützung unterscheidet: Wie wirksam sind die Überwachungsmechanismen darin, einen Leistungsabfall zu erkennen, bevor er die Untersuchungsergebnisse beeinflusst?