Führende KI-Unternehmen wie OpenAI, Claude und Gemini stehen vor einer neuen Sicherheitsherausforderung, die über den bloßen Datenschutz hinausgeht. Ein aktueller Bericht enthüllt die Möglichkeit, fortschrittliche Modelle auszunutzen, um beim Aufbau kostengünstiger Konkurrenzmodelle zu helfen, indem deren "Denklogik" gestohlen wird.
Angriffsmechanismus: Was ist "Compaction Smuggling"?
Fortschrittliche KI-Modelle (Frontier AI) basieren auf Anwendungsprogrammierschnittstellen (APIs), die es Entwicklern ermöglichen, mit KI-Engines zu interagieren. Um die Kontextkontinuität ohne massiven Ressourcenverbrauch aufrechtzuerhalten, verwenden diese Modelle einen Prozess namens "Kontextkomprimierung" (Context Compaction), bei dem der Gesprächsverlauf, Tool-Aufrufe und der Status des Arbeitsbereichs in einer konzentrierten Zusammenfassung gespeichert werden, bevor das verfügbare Kontextfenster überschritten wird.
Der Forscher "Xint" entdeckte eine Sicherheitslücke namens Compaction Smuggling, die es Angreifern ermöglicht, diesen Prozess in drei Hauptschritten zu manipulieren:
- Erstens: Erlangung von Denkpfaden (Reasoning Traces) durch das Stellen einer Aufgabe an fortschrittliche Modelle (wie gpt-5.6-sol).
- Zweitens: Steuerung oder Formung des resultierenden Komprimierungsprozesses (Compaction), um sensible Informationen einzuschließen.
- Drittens: Senden des Ergebnisses an ein anderes, weniger leistungsfähiges KI-Modell (wie gpt-4.1 oder gpt-4o) mit der Aufforderung, die Eingaben unverändert zu extrahieren, was schwächere Modelle problemlos tun.
Dieser Angriff geht über frühere Versuche von OpenAI hinaus, die sich darauf konzentrierten, die Wiedergabe von Denkpfaden in verschiedenen Modellen zu verhindern. Diese Methode ist erfolgreich, da der Komprimierungsprozess innerhalb desselben Modells stattfindet, das das Denken ursprünglich erzeugt hat.
Warum stellt diese Nachricht eine strategische Bedrohung dar?
Die eigentliche Gefahr liegt in einem Prozess, der als "Destillation" (Distillation) bekannt ist. Bei diesem Prozess werden die aus fortschrittlichen und teuren Modellen extrahierten Denkgeheimnisse und Logiken verwendet, um neue, kostengünstigere Modelle zu trainieren. Dies verleiht Wettbewerbern hohe KI-Fähigkeiten, ohne dass massive Investitionen in grundlegende Trainingsprozesse erforderlich sind.
Dies ist nicht nur eine technische Bedrohung, sondern eine wirtschaftliche und geopolitische; das tiefe Wissen darüber, wie führende Modelle "denken", gibt Unternehmen die Fähigkeit, deren Fähigkeiten schnell und mit minimalen Ressourcen zu simulieren.
Kontext des globalen technischen Wettbewerbs
Diese Schwachstelle tritt zu einer Zeit auf, in der die US-amerikanische Cybersecurity and Infrastructure Security Agency (CISA) vor organisierten Kampagnen zur Datenextraktion gewarnt hat. Die Agentur wies darauf hin, dass chinesische Unternehmen wie DeepSeek, Alibaba, Moonshot AI und MiniMax seit Ende 2024 Milliarden von Token aus führenden US-Modellen wie Claude, GPT und Gemini extrahiert haben.
Berichten zufolge hat insbesondere das Unternehmen DeepSeek seit 2024 organisierte Kampagnen durchgeführt, die auf die Denkfähigkeiten und spezialisierten Optimierungen für das Training seiner Modelle R1 und V3 abzielten, was Fragen darüber aufwirft, inwieweit diese chinesischen Innovationen auf "destillierten" Technologien aus dem Westen basieren.
OpenAI bestätigte seinerseits die Behebung der "Compaction Smuggling"-Schwachstelle und gewährte dem Forscher Xint am 23. Oktober 2026 eine Belohnung in Höhe von 6.000 US-Dollar als Anerkennung für seine Entdeckung.