Un ataque que coloca instrucciones maliciosas dentro de los datos o las herramientas que procesa el modelo de inteligencia artificial, en lugar de introducirlas directamente el usuario.
Un estudio realizado por los equipos de inteligencia de amenazas de Google sobre contenido web público muestra que distintos actores han comenzado a experimentar con la inyección indirecta de instrucciones para atacar sistemas de inteligencia artificial, con un aumento del 32 % dentro de la categoría maliciosa entre noviembre de 2025 y febrero de 2026. Aunque la sofisticación de los ataques observados es limitada, Google prevé que su volumen y complejidad aumenten a medida que mejoren las capacidades de los sistemas de inteligencia artificial y disminuya el coste de ejecutar los ataques.
Google explica su metodología continua para combatir los ataques de inyección indirecta de instrucciones dirigidos contra aplicaciones de inteligencia artificial que utilizan múltiples fuentes de datos, como Workspace con Gemini. La metodología se basa en detectar y clasificar los ataques, generar datos sintéticos y, posteriormente, actualizar las defensas deterministas, los modelos de aprendizaje automático y los LLM, además de reforzar el propio modelo Gemini.