Ein Angriff, bei dem schädliche Anweisungen in Daten oder Tools platziert werden, die ein KI-Modell verarbeitet, anstatt sie direkt vom Benutzer einzugeben.
Eine von Googles Threat-Intelligence-Teams durchgeführte Untersuchung öffentlich zugänglicher Webinhalte zeigt, dass verschiedene Akteure begonnen haben, indirekte Prompt-Injection-Angriffe auf KI-Systeme zu erproben. Zwischen November 2025 und Februar 2026 stieg ihr Anteil innerhalb der schädlichen Kategorie um 32 %. Trotz der begrenzten Raffinesse der beobachteten Angriffe erwartet Google, dass deren Umfang und Komplexität mit zunehmenden Fähigkeiten von KI-Systemen und sinkenden Kosten für die Durchführung von Angriffen wachsen werden.
Google erläutert seine fortlaufende Methodik zur Abwehr indirekter Prompt-Injection-Angriffe, die auf KI-Anwendungen mit mehreren Datenquellen wie Workspace mit Gemini abzielen. Die Methodik beruht auf der Erkennung und Klassifizierung von Angriffen, der Generierung synthetischer Daten sowie der anschließenden Aktualisierung deterministischer Abwehrmaßnahmen, von Machine-Learning- und LLM-Modellen und der Härtung des Gemini-Modells selbst.