Sicherheitsintelligenzteams von Google (GTIG) und Mandiant haben vor der Zunahme von Angriffen zur Entführung großer Sprachmodelle gewarnt, die als LLMjacking bekannt sind. Diese führten bei Organisationen zu massiven finanziellen Verlusten, die in einigen Fällen aufgrund betrügerischer Rechnungen für den Cloud-Verbrauch eine Million US-Dollar erreichten.
Funktionsweise der Angriffe
Angreifer stützen sich auf zwei Hauptstrategien, um Zugang zur KI-Infrastruktur zu erlangen: Die erste ist das aktive Scannen öffentlich zugänglicher Endpunkte (Endpoints), und die zweite ist der Diebstahl gültiger API-Schlüssel von ungeschützten Geräten. Nach Erlangung des Zugriffs werden diese Ressourcen über Vermittlungsdienste verkauft, die als „LLM Mixers“ bekannt sind und Abonnenten den unbefugten Zugriff auf KI-Modelle ermöglichen.
Sobald der Zugriff weiterverkauft wurde, verzeichnen die Zielsysteme einen massiven Anstieg des Anfragevolumens, der 1.000 Anfragen pro Sekunde überschreiten kann. Dies führt dazu, dass diese Anfragen als legitimer Verbrauch verbucht werden und dem geschädigten Unternehmen exorbitant hohe Kosten entstehen.
Bedrohungsentwicklung
Forscher haben Bedrohungsgruppen wie UNC6993 beobachtet, die Gateway-Tools verwenden, um gestohlene Schlüssel zu aggregieren und Anfragen zu verteilen. Zudem wurde die Ausnutzung der Schwachstelle CVE-2026-40217 in der LiteLLM-Plattform festgestellt, die die Ausführung von beliebigem Code auf dem Server ermöglicht. In einigen Fällen nutzten die Angreifer die Infrastruktur des Opfers, um Agenten (Agents) und Reverse Proxies zu hosten, um unbefugte KI-Dienste unter Pseudonymen anzubieten.
Was Unternehmen tun sollten
Google betont die Notwendigkeit, proaktive Schritte zur Sicherung von Arbeitsumgebungen zu unternehmen, darunter:
- Identitäts- und Zugriffsmanagement (IAM): Anwendung des Prinzips der geringsten Privilegien und Verhinderung aller unnötigen Berechtigungen, insbesondere des Zugriffs auf Cloud-KI-Dienste.
- Sicherung von Geheimnissen: Verwendung zentraler Plattformen zur regelmäßigen Verwaltung und Rotation von API-Schlüsseln und sensiblen Daten.
- Überwachung und Kontrolle: Aktivierung einer phishing-resistenten Multifaktoren-Authentifizierung (MFA) und Festlegung von Obergrenzen für Ausgaben und Verbrauch bei Programmierschnittstellen.
- Kontinuierliche Prüfung: Überwachung von Inferenz-Protokollen (Inference Logs), um ungewöhnliche Aktivitäten oder Versuche zur Deaktivierung der Sicherheitsprotokollierung zu erkennen.