사용자가 직접 입력하는 대신, AI 모델이 처리하는 데이터나 도구에 악성 지침을 삽입하는 공격입니다.
구글 위협 인텔리전스 팀이 공개 웹 콘텐츠를 대상으로 실시한 조사에 따르면, 여러 주체가 인공지능 시스템을 겨냥한 간접 프롬프트 인젝션을 실험하기 시작했으며, 악성 범주에서는 2025년 11월부터 2026년 2월 사이 그 비율이 32% 증가했다. 관찰된 공격의 정교함은 제한적이었지만, 구글은 인공지능 시스템의 역량이 향상되고 공격 실행 비용이 낮아짐에 따라 공격 규모와 복잡성이 증가할 것으로 예상한다.
Google은 Gemini가 적용된 Workspace와 같은 다중 데이터 소스 인공지능 애플리케이션을 겨냥한 간접 프롬프트 인젝션 공격에 대응하기 위한 지속적인 방법론을 설명합니다. 이 방법론은 공격 탐지, 분류, 합성 데이터 생성, 결정론적 방어와 머신러닝 모델 및 LLM 업데이트, 그리고 Gemini 모델 자체의 강화에 기반합니다.