Google hat über seine Cyber Threat Intelligence Group (GTIG) gewarnt, dass böswillige Akteure zunehmend auf agentenbasierte Arbeitsabläufe (Agentic Workflows) und KI-gestützte Angriffs-Frameworks setzen, um die Erkennung und Ausnutzung von Sicherheitslücken zu automatisieren, wodurch Angriffe auf Maschinengeschwindigkeit beschleunigt werden.
Berichten von Google zufolge hat sich die anfängliche, experimentelle Nutzung von Künstlicher Intelligenz bei Cyberangriffen zu einer breiten Adoptionswelle durch staatlich unterstützte Hackergruppen und finanziell motivierte Organisationen gewandelt. Zu den dokumentierten Beispielen gehört der Einsatz des Open-Source-Penetrationstesting-Frameworks CAIRN bei einem Angriff auf den US-Luftfahrtsektor sowie der Verdacht, dass nordkoreanisch verknüpfte Hacker das Tool Claude Code zur Verbreitung von Schadsoftware eingesetzt haben.
Prognosen zum Übergang zur vollständigen Autonomie
Sicherheitsanalysen schätzen, dass böswillige Akteure innerhalb der nächsten drei Monate in der Lage sein werden, einfache Angriffe zu starten, die kaum oder gar kein menschliches Eingreifen erfordern und primär auf mehrere KI-Agenten setzen. Noch gefährlicher ist die Prognose, dass in der zweiten Jahreshälfte hochentwickelte, vollautonome automatisierte Angriffe aufkommen werden.
Dies steht im Einklang mit einer früheren Warnung des FBI, wonach mehrere böswillige Akteure das Penetrationstesting-Framework ARTEX seit August bewaffnet und Angriffe auf Institutionen in den Bereichen Regierung, Verteidigung, Finanzen, Technologie und Gesundheitswesen gestartet haben.
Ausnutzung von Open-Source-Frameworks
Google erklärte, dass Angreifer kontinuierlich Open-Source-Penetrationstesting-Frameworks wie ARTEX, CAIRN, CyberStrikeAI und HexStrike AI ausnutzen, um adaptive Angriffe gegen exponierte Endpunkte im Internet durchzuführen, die für Schwachstellen mit geringer Komplexität anfällig sind und für die Large Language Models problemlos Exploits erstellen können.
In einem prominenten Beispiel aus dem Bericht des KI-Bedrohungsverfolgers von Google nutzten Hacker ein Multi-Agenten-System namens exploit_agent, um den Such- und Ausnutzungsprozess von Schwachstellen ohne menschliches Eingreifen vollständig gegen französische Webseiten aus den Bereichen Medien, Unterhaltung und Bildung zu automatisieren.
Was verändert diese Entwicklung in der Praxis?
Dieser technologische Wandel übt einen massiven Druck auf Verteidigungs- und Cybersicherheitsteams aus. Der Einsatz dieser Angriffs-Frameworks hat die Zeit, die Verteidigern zum Patchen ihrer Systeme zur Verfügung steht, drastisch verkürzt. Zudem werden falsche Fährten und gefälschte Informationen erzeugt – wie im Fall der PHP2Shell-Schwachstellen, die hunderte von KI-generierten Proof-of-Concept-Exploits hervorbrachten und damit den Belastungstest für die Überprüfung und Härtung von Systemen durch die Sicherheitsteams vervielfachten.