Атака, при которой вредоносные инструкции помещаются в данные или инструменты, обрабатываемые моделью искусственного интеллекта, вместо их непосредственного ввода пользователем.
Eine von Googles Threat-Intelligence-Teams durchgeführte Untersuchung öffentlich zugänglicher Webinhalte zeigt, dass verschiedene Akteure begonnen haben, indirekte Prompt-Injection zur Ausrichtung auf KI-Systeme zu erproben. Zwischen November 2025 und Februar 2026 nahm ihr Anteil in der bösartigen Kategorie um 32 % zu. Obwohl die beobachteten Angriffe nur begrenzt ausgefeilt waren, erwartet Google, dass ihr Umfang und ihre Komplexität mit den wachsenden Fähigkeiten von KI-Systemen und den sinkenden Kosten für die Durchführung von Angriffen zunehmen werden.
Google объясняет свою постоянную методологию противодействия атакам косвенного внедрения инструкций, направленным на приложения искусственного интеллекта с несколькими источниками данных, такие как Workspace с Gemini. Методология включает обнаружение и классификацию атак, генерацию синтетических данных, а затем обновление детерминированных средств защиты, моделей машинного обучения и LLM, а также усиление самой модели Gemini.