Kullanıcı tarafından doğrudan girilmek yerine, yapay zekâ modelinin işlediği verilere veya araçlara kötü amaçlı talimatlar yerleştiren bir saldırı.
Google'ın tehdit istihbaratı ekiplerinin kamuya açık web içeriği üzerinde gerçekleştirdiği tarama, çeşitli aktörlerin yapay zekâ sistemlerini hedef almak için dolaylı prompt enjeksiyonunu denemeye başladığını gösteriyor. Kötü amaçlı kategorideki tespitler Kasım 2025 ile Şubat 2026 arasında %32 arttı. Gözlemlenen saldırıların karmaşıklığı sınırlı olsa da Google, yapay zekâ sistemlerinin yetenekleri arttıkça ve saldırıların gerçekleştirilme maliyeti düştükçe bunların hacminin ve karmaşıklığının büyümesini bekliyor.
Google, Workspace with Gemini gibi birden çok veri kaynağı kullanan yapay zekâ uygulamalarını hedef alan dolaylı komut enjeksiyonu saldırılarına karşı sürekli yöntemini açıklıyor. Bu yöntem saldırıları tespit etmeye, sınıflandırmaya ve sentetik veriler oluşturmaya; ardından belirlen deterministik savunmaları, makine öğrenimi modellerini, LLM'leri ve Gemini modelinin kendisini güncellemeye dayanıyor.