Eine von Booz Allen durchgeführte Studie zeigte, dass KI-Agenten in der Lage sind, unbekannte Umgebungen der Betriebstechnologie (OT) zu erkunden, sich an Hindernisse anzupassen und innerhalb weniger Minuten Änderungen vorzunehmen, die physische Anlagen beeinflussen. Die Ergebnisse sind deshalb bedeutsam, weil sich das potenzielle Risiko vom Bereich des digitalen Eindringens auf die Steuerung industrieller Systeme und physischer Anlagen verlagert.
Die Ergebnisse der Studie wurden auf der SecurityWeek-Konferenz für die Sicherheit industrieller Kontrollsysteme (ICS) in Nashville vorgestellt, bevor der Bericht allgemein zugänglich gemacht wurde. Das Unternehmen führte die Tests in einem isolierten OT-Labor durch und verwendete fortgeschrittene KI-Modelle, die über keine Vorkenntnisse der Umgebung verfügten, darunter weder Quellcode noch technische Dokumentation oder spezielle OT-Anleitungen.
Ergebnisse der Tests
Den Forschern zufolge erreichten die Modelle in allen acht Szenarien jedes festgelegte Ziel. Die Aufgaben beschränkten sich nicht auf einen einzelnen Schritt, sondern kombinierten die Erkennung von Anlagen, die Untersuchung von Geräteeigenschaften und die Planung des Angriffs – Phasen, die normalerweise auf mehrere Personen und Teams verteilt sind.
In einem der Tests gelangten die Modelle von einem Perimeter-Einbruch zur Ausführung von Aktionen innerhalb eines industriellen Kontrollnetzes in etwas mehr als 16 Minuten. In einem weiteren Test fand ein Modell einen Roboterarm, bestimmte dessen Schutzbereiche und Bewegungsgrenzen und bewegte ihn anschließend innerhalb weniger Minuten.
Einige vorhandene Abwehrmaßnahmen konnten bestimmte Aktionen blockieren oder verlangsamen. Die Studie stellte jedoch fest, dass keine einzelne Kontrolle die autonomen Modelle in den getesteten Szenarien konsistent daran hinderte, ihre Ziele zu erreichen.
Was ändert sich in der Praxis?
Die Studie zeigt, dass der Unterschied nicht nur in der Fähigkeit der KI liegt, Angriffsschritte auszuführen, sondern auch in der Geschwindigkeit, mit der Phasen miteinander verknüpft werden, die normalerweise nacheinander menschliches Eingreifen erfordern. In OT-Umgebungen kann diese Beschleunigung dazu führen, dass eine Cyberaktivität materielle Auswirkungen hat, bevor Sicherheitsteams den Ablauf verstehen oder unterbrechen können.
Booz Allen ist der Ansicht, dass es nicht mehr ausreicht, sich auf die Unübersichtlichkeit einer OT-Umgebung oder darauf zu verlassen, dass ein Angreifer ihre Details nicht kennt – insbesondere dann nicht, wenn Modelle in der Lage sind, Geräteeigenschaften abzuleiten und durch direkte Erkundung mit Systemen umzugehen. Die Studie räumt jedoch selbst ein, dass das Labor des Unternehmens nicht zwangsläufig jeder Unternehmens-OT-Umgebung entspricht, was bei der Verallgemeinerung der Ergebnisse eine wichtige Einschränkung darstellt.
Was empfiehlt die Studie?
Die Forscher empfehlen Eigentümern und Betreibern von Systemen, sich darauf zu konzentrieren, die Fortbewegung innerhalb der Umgebung zu erschweren, implizites Vertrauen zu beseitigen, wirkungsvolle industrielle Änderungen schnell zu erkennen und den Umfang dessen zu begrenzen, worauf ein Angreifer nach Erlangung eines Zugangs Einfluss nehmen kann – unabhängig davon, ob der Zugang über einen cyberbezogenen oder einen physischen Weg erfolgte.
Die Bedeutung des von Booz Allen verwendeten Begriffs «Superintelligenz» bleibt ungeklärt; zum Zeitpunkt der Erstellung dieses Beitrags hatte das Unternehmen nicht erläutert, ob damit künstliche Intelligenz im allgemein üblichen Sinne oder ein spezifischeres Konzept gemeint war. Die Tests beweisen außerdem nicht, dass jede industrielle Umgebung denselben Ergebnissen ausgesetzt sein wird. Sie liefern jedoch einen praktischen Hinweis darauf, dass einzelne Abwehrmaßnahmen angesichts von Agenten, die schnell und autonom handeln können, möglicherweise nicht ausreichen.