Das Open-Source-KI-Projekt OpenCode hat einen Sicherheitsvorfall gemeldet, bei dem gespeicherte API-Schlüssel (Application Programming Interfaces) offengelegt wurden, die Entwickler bei Drittanbietern wie Anthropic, OpenAI und Google verwenden. Die Projektverantwortlichen erklärten, dass der Angriff etwa 1,4 % der Nutzer der OpenCode Console betraf. Die betroffenen Nutzer erhielten Warn-E-Mails, die darauf hinwiesen, dass ihre Schlüssel möglicherweise seit dem 17. Oktober 2026 kompromittiert waren.
KI-Destillationsangriffe und ihre Auswirkungen auf die Sicherheit
Der Mitbegründer von OpenCode, Dax Raad, bestätigte, dass die Angreifer die Systeme des Unternehmens mindestens 48 Stunden lang mit KI-Agenten in Angriffen attackierten, die als KI-Destillation (AI Distillation) bekannt sind. Die Destillation von Modellen für maschinelles Lernen ist eine legitime Technik, die normalerweise dazu verwendet wird, kleinere Modelle mithilfe der Antworten leistungsfähigerer Modelle zu trainieren. In diesem Vorfall wurde sie jedoch in einen Angriff umgewandelt, der auf umfangreichen und unbefugten Abfragen basierte.
Während der Untersuchungen hatte das OpenCode-Team Schwierigkeiten, die Angreifer zu verfolgen, nachdem die von ihnen verwendeten KI-Modelle die Anfragen aufgrund eingebauter Sicherheitsbeschränkungen ablehnten. Die Lage stabilisierte sich erst, als das Team begann, das Cybersicherheitsmodell Daybreak von OpenAI zu Verteidigungszwecken einzusetzen.
Finanzielle Schäden und Projektunterbrechungen
Der Hack verursachte direkte finanzielle und technische Schäden für viele Nutzer, darunter:
- Unbefugte finanzielle Belastungen in Google Cloud-Konten, die in einigen Fällen über Nacht mehr als 1.700 US-Dollar erreichten.
- Die Sperrung einiger Nutzerkonten und Projekte durch Google, nachdem missbräuchliche Aktivitäten festgestellt wurden, die mit der Nutzung gestohlener Ressourcen übereinstimmten.
- Der Hinweis von OpenCode, betroffene Nutzer für die unbefugten Gebühren entschädigen zu wollen, während das Unternehmen mit großen Modellanbietern zusammenarbeitet, um die Sicherheitslücke zu schließen.
Warum ist diese Nachricht wichtig?
Dieser Vorfall verdeutlicht die Sicherheitsrisiken, die mit der Verknüpfung von API-Schlüsseln mit externen KI-Plattformen und Automatisierungsagenten verbunden sind. Er zeigt zudem, wie legitime Techniken des maschinellen Lernens wie die Destillation missbraucht werden können, um groß angelegte Angriffe zu starten, die die Ressourcen der Opfer erschöpfen und sensible Anmeldedaten offenlegen.