Attaque qui place des instructions malveillantes dans les données ou les outils traités par le modèle d’intelligence artificielle, au lieu de les saisir directement par l’utilisateur.
Une analyse menée par les équipes de renseignement sur les menaces de Google concernant le contenu public du Web montre que différents acteurs ont commencé à expérimenter l’injection indirecte de commandes pour cibler les systèmes d’intelligence artificielle, avec une hausse de 32 % dans la catégorie malveillante entre novembre 2025 et février 2026. Malgré le niveau de sophistication limité des attaques observées, Google s’attend à une augmentation de leur volume et de leur complexité à mesure que les capacités des systèmes d’intelligence artificielle progressent et que le coût de mise en œuvre des attaques diminue.
Google explique sa méthodologie continue pour lutter contre les attaques par injection indirecte de commandes visant les applications d’intelligence artificielle qui utilisent plusieurs sources de données, comme Workspace avec Gemini. Cette méthodologie repose sur la détection des attaques, leur classification, la génération de données synthétiques, puis la mise à jour des défenses déterministes, des modèles d’apprentissage automatique et des LLM, ainsi que le renforcement du modèle Gemini lui-même.