Anthropic veröffentlichte einen Bericht über die Nutzung seiner Modelle, darunter Claude Haiku, Sonnet, Opus und Claude Code, für missbräuchliche Aktivitäten, die von der Entwicklung von Software im Zusammenhang mit konventionellen Waffen bis hin zu Spionage, Betrug und politischen Einflussoperationen reichten. Der Bericht deckt den Zeitraum zwischen Dezember 2025 und August 2026 ab und weist auf die Beteiligung von Akteuren hin, bei denen ein Bezug zu Staaten vermutet wird, sowie von Kriminellen, die finanzielle Gewinne anstreben, und staatlichen Propagandaeinrichtungen.
Nutzung von Claude für Rüstungsprogramme
Anthropic erklärte, dass ihr Threat-Intelligence-Team mehrere Akteure untersucht habe, die Claude zur Entwicklung von Software für den Waffenentwurf oder zur Unterstützung der Informationsbeschaffung und von Lieferketten im Zusammenhang mit Rüstungsprogrammen eingesetzt hätten. Das Unternehmen gab an, dass sich drei dieser Akteure in China, zwei in Russland und einer im Jemen befanden.
In einem Fall im Zusammenhang mit einer Gruppe, die im Norden des Jemen aktiv ist, stellte das Unternehmen fest, dass Claude Code im Rahmen von drei Programmen zur Waffenentwicklung eingesetzt wurde, darunter für Lenkflugkörper und weitere Raketen. Die Nutzung umfasste die Entwicklung von Software für Lenkung, Navigation und Gleichgewicht sowie die Durchführung von Simulationen und Tests. Der Bericht erklärte jedoch, es gebe keine Belege dafür, dass die Gruppe erfolgreich eine einsatzfähige Waffe entwickelt habe. Anthropic teilte außerdem mit, die zugehörigen Konten deaktiviert und die gesammelten Informationen mit Einrichtungen des öffentlichen und privaten Sektors geteilt zu haben.
In einem weiteren Fall nutzte ein in China ansässiger Akteur Claude zur Entwicklung von Teilen der Software zur Startsteuerung eines U-Boot-Abwehrsystems gegen Torpedos, zur Ausarbeitung von Testplänen und zum Vergleich des Systems mit US-amerikanischer Software zur Torpedoabwehr und zur U-Boot-Abwehr. Das Unternehmen bewertete die Aktivität als mit einem Hersteller im chinesischen Verteidigungssektor verbunden.
Von Spionage bis Überwachung und Einflussnahme
Der Bericht enthielt Beispiele für russische Spionageoperationen, die sich überwiegend gegen militärische Nachrichtendienste in den Regierungen der Ukraine und Europas richteten, sowie für Aufklärungsversuche gegen Regierungsnetzwerke im Nahen Osten, in Europa und Südostasien, die Akteuren zugeschrieben wurden, von denen angenommen wird, dass sie in China ansässig sind. Anthropic stellte außerdem fest, dass Claude bei Erpressungsangriffen und finanziell motivierter Cyberkriminalität eingesetzt wurde.
Im Juni 2026 sperrte das Unternehmen ein Konto, das Claude zur Erstellung einer Plattform nutzte, die Aktivitäten von Nutzern in sozialen Medien im Iran und in der Golfregion überwachte, analysierte und klassifizierte. Die Untersuchung kam zu dem Schluss, dass das Konto von einer Organisation namens S2T Unlocking Cyberspace betrieben wurde oder in deren Auftrag handelte, während Open-Source-Recherchen auf eine Verbindung zu einem israelisch-singapurischen Nachrichtendienstleister hinwiesen. Der Bericht stellte außerdem ein chinesisches Instrument zur Überwachung der öffentlichen Meinung und zur Erstellung staatlicher Briefings fest, in denen Dissidenten, Aktivisten, ethnische Minderheiten, die chinesische Diaspora und ausländische Medien als Bedrohungen für die politische Stabilität eingestuft wurden.
Nachahmung von Modellen und Netzwerke synthetischer Inhalte
Anthropic erklärte, ein chinesisches App-Studio habe mit Unterstützung von Claude ein Netzwerk aus mehr als 20 Dating-Apps aufgebaut, in dem mehr als 4700 KI-Personas innerhalb von zwei Wochen mit mindestens 25.000 Menschen gesprochen hätten. Das Unternehmen verzeichnete außerdem den bislang größten illegalen Destillationsangriff, den es beschrieben hat: Mit Alibaba verbundene Akteure nutzten mehr als 3500 gefälschte Konten, um täglich etwa 3 Millionen Vorgänge durchzuführen und die Fähigkeiten seiner Modelle ohne Genehmigung zu kopieren.
Das Unternehmen erklärte ferner, Moonshot AI und DeepSeek hätten laut der Untersuchung Nutzeranfragen an Claude weitergeleitet, ohne die Nutzer darüber zu informieren. Gespräche von Nutzern der Xiaomi-MiMo-Modelle seien ebenfalls an Claude übertragen worden, und zwar im Rahmen einer Aktivität, die der Bericht als illegale Destillation bezeichnete.
Warum ist diese Nachricht wichtig?
Die Fälle zeigen, dass die Risiken nicht auf die Erstellung schädlicher Texte beschränkt sind, sondern auch die Integration von Modellen in Software, Tests, nachrichtendienstliche Operationen und Propagandainfrastrukturen umfassen. Zugleich stellt der Bericht eine Darstellung der Ergebnisse und Untersuchungen von Anthropic dar und keine unabhängige Bewertung jedes einzelnen Falls; außerdem betreffen einige Sachverhalte Nutzungen, von denen nicht nachgewiesen wurde, dass sie eine einsatzfähige Waffe hervorgebracht haben. Daher bleiben Fragen zu den Mechanismen zur Überprüfung der Behauptungen von Unternehmen, zu den Grenzen ihrer Fähigkeit, nicht offengelegte Nutzungen zu erkennen, und dazu offen, wie der Informationsaustausch mit öffentlichen und privaten Stellen koordiniert wird.