Das Dutch Institute for Vulnerability Disclosure hat einen von einem KI-Agenten autonom durchgeführten Einbruch offengelegt, nachdem eine nicht öffentlich gemachte technische Schwachstelle ausgenutzt worden war. Das Ziel des Angriffs und seine endgültigen Auswirkungen werden noch untersucht, während die Forscher das Verhalten des Agenten als schnell und chaotisch beschrieben, wobei er zahlreiche Spuren hinterließ.
Die Organisation Dutch Institute for Vulnerability Disclosure (DIVD), eine niederländische gemeinnützige Einrichtung, in der freiwillige Sicherheitsforscher tätig sind, wurde Opfer eines Cyberangriffs, bei dem ein automatisierter KI-Agent eingesetzt wurde, um die Phasen nach dem Einbruch autonom durchzuführen. Die Organisation erklärte, der Angriff sei „sehr laut und chaotisch“ gewesen, bleibe jedoch bedeutsam, da er eine andere Art von Operation darstelle, die sie zuvor noch nicht beobachtet habe.
Die DIVD untersucht mit dem Internet verbundene Systeme auf bekannte Schwachstellen, benachrichtigt anschließend deren Betreiber und gibt Hinweise zur Risikominderung. Nach sieben Jahren Arbeit ohne vergleichbare Vorfälle gab die Organisation Ende der vergangenen Woche bekannt, dass sie Opfer eines Einbruchs geworden war, und informierte die Polizei, die niederländische Datenschutzbehörde sowie das Nationale Zentrum für Cybersicherheit (NCSC).
Was ist passiert?
Erste Beweise deuten darauf hin, dass der Angreifer eine „technische Schwachstelle“ in einem System ausnutzte, dessen Identität die DIVD nicht offengelegt hat. Sie bestätigte, dass sich die Schwachstelle nicht in Citrix NetScaler befindet. Anschließend nutzte der Angreifer einen KI-Agenten, um innerhalb des Netzwerks der Organisation Aktivitäten nach der Ausnutzung durchzuführen, wobei der Agent nach jeder Aktion automatisch seine nächsten Entscheidungen traf.
Die DIVD erklärte, die Geschwindigkeit der Ausführung und die unkontrollierte Logik hätten dazu beigetragen, dass eine große Menge an Beweisen zurückblieb. Außerdem erklärte der Agent seine Entscheidungen in seinen Kommentaren übermäßig ausführlich, wodurch die Forscher die Abfolge der Ereignisse untersuchen und versuchen konnten, den Angriff zu rekonstruieren.
Das beobachtete Verhalten umfasste eine Einmischung in einen „Adversary-in-the-Middle“-Angriff während der Durchführung von Versuchen zum Passwort-Spraying. Die Organisation bezeichnete einige Handlungen des Agenten als unausgereift und vermutete, dass er für diese Art von Operationen schlecht trainiert oder konfiguriert war. Das Ziel des Angriffs und das Ausmaß des daraus entstandenen Schadens sind weiterhin unklar.
Warum ist diese Nachricht wichtig?
Der Vorfall allein beweist nicht, dass intelligente Agenten komplexe Einbrüche mit hoher Effizienz durchführen können. Er zeigt jedoch, dass ein automatisiertes Werkzeug ohne kontinuierliche menschliche Anleitung zwischen mehreren Schritten innerhalb eines Zielnetzwerks wechseln kann. Bemerkenswert sind hier die Autonomie und die Geschwindigkeit der Entscheidungsfindung, nicht der Genauigkeitsgrad, der in diesem Fall begrenzt zu sein schien.
Für Verteidiger unterstreicht der Vorfall die Bedeutung der Aufbewahrung detaillierter Protokolle und der Überwachung sequenziellen Verhaltens nach der Ausnutzung von Schwachstellen, da der Agent andere Spuren hinterlassen kann als herkömmliche Kampagnen. Gleichzeitig ist das Bild weiterhin unvollständig: Die Art der Schwachstelle, ihr Patch-Status, die Zahl der potenziell Betroffenen und die tatsächlichen Auswirkungen auf die DIVD wurden noch nicht offengelegt.
Untersuchung und nächste Schritte
Die DIVD hat eine interne Untersuchung eingeleitet und angekündigt, am 1. Oktober ein ausführlicheres Update bereitzustellen. Außerdem beabsichtigt sie, potenzielle Opfer derselben Schwachstelle zu benachrichtigen, sobald dies möglich ist. Bis zum Zeitpunkt der Veröffentlichung der Quelle hatte die Organisation auf Anfragen von BleepingComputer zur Art der Schwachstelle und dazu, ob sie gepatcht worden war, nicht geantwortet.