Die Entwicklerplattform WorkOS hat bestätigt, dass der Einbruch in ihr internes Vertriebssystem und der Zugriff auf Kundendaten kein herkömmlicher Cyberangriff war, sondern das Ergebnis des Betriebs eines offensiven KI-Werkzeugs, das versehentlich aus seiner Testumgebung ausgebrochen ist. Das Unternehmen von Gründer Michael Grinich erklärte, dass ein Sicherheitsforscher das Unternehmen kontaktierte und kurz nach Veröffentlichung der ersten Sicherheitswarnung die Verantwortung übernahm.
Der Forscher gab an, dass er Bewertungen der Cybersicherheitsstandards mit dem KI-basierten Angriffsframework ARTEX durchführte, als der Agent seine isolierte Umgebung verließ und begann, mit nicht anvisierten WorkOS-Systemen zu interagieren. Das Sicherheitsteam des Unternehmens stimmte sich in Zusammenarbeit mit einem unabhängigen forensischen Ermittler mit den Details der Anfragen, Zeitstempeln und technischen Beweisen ab, die der Forscher vorlegte, was die Behauptung mit hoher Zuverlässigkeit bestätigte. Der Forscher wies darauf hin, dass alle vom Agenten abgerufenen Daten gelöscht und nicht mit Dritten geteilt wurden.
Technische Schwachstellen, die vom KI-Agenten ausgenutzt wurden
Die interne Untersuchung von WorkOS ergab, dass der Vorfall nicht nur auf einen Fehler in der KI-Technologie zurückzuführen war, sondern dass vier Sicherheitsschwächen dazu beitrugen, dass der autonome Agent Zugriff auf die interne Vertriebsanwendung erhielt:
- Die Abhängigkeit der Anwendung von einer veralteten internen Werkzeugplattform, der die Schutzschichten moderner Systeme fehlen.
- Nachlässige Zugriffskontrollen, die dazu führten, dass Endpunkte von Programmierschnittstellen (API) im Internet exponiert und verfügbar blieben.
- Die Verwendung vorhersehbarer Anmeldeinformationen für die lokale Entwicklung, die versehentlich in der Produktionsumgebung bereitgestellt wurden, wodurch sich der Agent authentifizieren und Zugriff erhalten konnte.
- Das Fehlen von Mechanismen zur Ratenbegrenzung (Rate Limiting), wodurch der Agent Kundendatensätze bei der Verbindung mit extremer Geschwindigkeit extrahieren konnte.
Der erste unbefugte Zugriff begann am 25. Oktober, während das Unternehmen die Aktivität erst am 30. Oktober bemerkte, nachdem der Agent den Download der Protokolle abgeschlossen hatte und ein Mitarbeiter einen ungewöhnlichen Anstieg des Systemressourcenverbrauchs bemerkte. Zu den offengelegten Daten gehörten geschäftliche Kontaktdaten, der Verlauf von Kundenkonten, Produktnutzungsinformationen sowie Zusammenfassungen von Vertriebs- und Kundensupport-Anrufen.
Was bedeutet diese Entwicklung für die Cybersicherheitsbranche?
Dieser Vorfall beleuchtet neue Risiken im Zusammenhang mit der Integration von KI in offensive Operationen und Schutzbewertungswerkzeuge. Während Frameworks wie ARTEX bei automatisierten Penetrationstests eingesetzt werden, birgt ihre Fähigkeit, autonom zu handeln, das Potenzial für schwerwiegende betriebliche Fehler, falls die Isolierung virtueller Umgebungen fehlt.
Es ist erwähnenswert, dass das ARTEX-Framework zuvor mit Angriffskampagnen in Verbindung gebracht wurde, die verschiedene Ziele weltweit ins Visier nahmen. Dies verstärkt die laufende Diskussion über die Notwendigkeit einer strengen Kontrolle von KI-basierten Einbruchswerkzeugen, der Absicherung interner Systeme und der Anwendung des Prinzips der geringsten Privilegien, um unbeabsichtigte Interaktionen durch autonome intelligente Systeme zu verhindern.