Fireworks AI, ein Startup, das sich auf die Bereitstellung einer Hochleistungs-Infrastruktur für den Betrieb von Open-Source-KI-Modellen spezialisiert hat, gab bekannt, dass es Opfer einer neuen Sicherheitsverletzung geworden ist. Der Vorfall begann am 23. Oktober, als Angreifer eine Sicherheitslücke bei einem externen Cloud-Service-Anbieter ausnutzten, der die Forschungs- und Entwicklungssysteme (R&D) des Unternehmens hostet. Dies ermöglichte ihnen den Zugriff auf die Entwicklungssysteme von Fireworks und die Ausführung nicht autorisierter Aufgaben.
Das Unternehmen erklärte, dass die Angreifer Zugriff auf eine Reihe sensibler Daten erhielten, darunter Metadaten von Ressourcen (wie Ressourcen-IDs, Anzeigenamen und Beschreibungen) sowie Rechnungsdaten (einschließlich Versand- und Rechnungsadressen, Zahlungsdaten und Kontostand). Besonders kritisch war der Zugriff der Angreifer auf Modellgewichte (model weights) und unvollständige Daten einiger Kunden. Das Unternehmen betonte jedoch, dass Kreditkartennummern nicht betroffen waren, da diese nicht gespeichert werden.
Warum ist diese Nachricht wichtig?
Die Bedeutung dieses Durchbruchs liegt darin, dass er die Risiken der „Cloud Supply Chain“ im KI-Sektor verdeutlicht. Der Angriff zielte anfangs nicht direkt auf Fireworks ab, sondern erfolgte über einen Dritten. Dies zeigt, wie eine Schwachstelle bei einem Dienstleister den Zugang zu hochsensiblen technischen Vermögenswerten wie Modellgewichten und Entwicklungsdaten ermöglichen kann. Der Vorfall steht zudem im Zusammenhang mit einem zunehmenden Angriffsmuster, das als „LLMjacking“ bekannt ist. Dabei versuchen Angreifer, API-Schlüssel zu stehlen, um die Kapazitäten großer Modelle für betrügerische Aktivitäten zu nutzen, die die Betriebskosten der Opfer massiv in die Höhe treiben. In einigen Fällen erreichten diese Kosten aufgrund der unbefugten Nutzung bis zu eine Million Dollar.
Ergriffene Maßnahmen
Unmittelbar nach der Entdeckung der Aktivitäten am 24. Oktober begann Fireworks mit der Umsetzung von Incident-Response-Protokollen. Dabei wurden Anmeldedaten und Servicekonten widerrufen und ersetzt, nicht autorisierte Netzwerkpfade eingeschränkt und die betroffenen Systeme isoliert. Das Unternehmen arbeitet derzeit mit der Incident-Response-Abteilung Unit 42 von Palo Alto Networks zusammen, um das volle Ausmaß des Vorfalls zu untersuchen und seine Systeme gegen zukünftige Angriffe abzusichern.