Um ataque que insere instruções maliciosas nos dados ou nas ferramentas processados pelo modelo de inteligência artificial, em vez de inseri-las diretamente pelo usuário.
Uma pesquisa realizada pelas equipes de inteligência de ameaças do Google sobre o conteúdo público da web mostra que diferentes grupos começaram a experimentar a injeção indireta de comandos para atingir sistemas de inteligência artificial, com um aumento de 32% na categoria maliciosa entre novembro de 2025 e fevereiro de 2026. Apesar da sofisticação limitada dos ataques observados, o Google prevê crescimento de seu volume e complexidade à medida que as capacidades dos sistemas de inteligência artificial aumentarem e o custo de execução dos ataques diminuir.
A Google explica sua metodologia contínua para combater ataques de injeção indireta de comandos que têm como alvo aplicações de inteligência artificial com múltiplas fontes de dados, como o Workspace com Gemini. A metodologia baseia-se na detecção e classificação dos ataques, na geração de dados sintéticos e, em seguida, na atualização das defesas determinísticas, dos modelos de aprendizado de máquina e LLMs, além do fortalecimento do próprio modelo Gemini.