Avec l'adoption rapide des technologies d'intelligence artificielle, un nouveau défi de sécurité a émergé : les "agents d'IA" (AI Agents) créés en dehors du contrôle des équipes informatiques et de cybersécurité. Des données récentes de la Cloud Security Alliance indiquent que 82 % des professionnels ont découvert dans leurs entreprises des agents d'IA dont ils ignoraient l'existence, ouvrant ainsi des failles de sécurité susceptibles d'entraîner des catastrophes financières et opérationnelles.
Failles d'accès et multiplicité des identités numériques
Le premier problème réside dans la manière dont ces agents obtiennent des droits d'accès. Les employés utilisent souvent des outils "sans code" (No-code) pour accorder à l'agent des autorisations via des protocoles OAuth ou des clés API personnelles. Cette multiplicité des méthodes d'accès crée une confusion dans les journaux d'audit (Audit Logs) ; il peut apparaître dans les journaux système que l'opération a été effectuée par un "compte de service" ou une "clé API", alors qu'en réalité, l'agent agissait sous l'autorisation d'un utilisateur humain, rendant le suivi de la responsabilité juridique et technique extrêmement difficile.
La "règle des deux" pour une conception sécurisée
Pour se protéger contre ces risques, le concept de "conception sécurisée" (Secure by Design) est mis en avant. Les équipes de sécurité de grandes entreprises comme Meta s'appuient sur ce qu'on appelle la "règle des deux" (Rule of Two) pour déterminer la dangerosité d'un agent. Selon cette règle, un agent ne doit pas combiner trois éléments dans une même session :
- Traitement d'entrées non fiables : comme la lecture d'e-mails provenant de sources externes.
- Accès à des systèmes sensibles : comme les bases de données des ressources humaines ou les systèmes financiers (ERP).
- Capacité à modifier l'état ou à communiquer avec l'extérieur : comme la modification de données bancaires ou l'envoi de données à une partie tierce.
Si un agent possède ces trois caractéristiques simultanément, il devient une cible idéale pour les attaques.
Risques d'injection de requêtes via le contenu
L'une des menaces les plus graves est l'"injection de requêtes" (Prompt Injection), où les attaquants peuvent envoyer des instructions cachées dans un contenu qui semble ordinaire. Par exemple, un e-mail peut contenir du texte écrit en blanc sur fond blanc demandant à l'agent de "mettre à jour les données bancaires du fournisseur dans le système". Comme l'agent lit le contenu numériquement, il exécutera l'ordre sans qu'aucun employé humain ne remarque la présence d'un message suspect, et l'opération apparaîtra dans les journaux comme une activité légitime et autorisée.
Défis de détection et d'audit a posteriori
Les systèmes de détection traditionnels reposent sur la surveillance des autorisations, mais un agent compromis peut rester dans le cadre de ses droits accordés, ce qui le rend invisible. La solution réside dans la surveillance du comportement (Behavioral Baselining) ; c'est-à-dire détecter tout changement dans la séquence des opérations, comme un agent qui se contentait de lire et qui tente soudainement d'"écrire" ou de modifier des enregistrements pour la première fois.
Pourquoi cela représente-t-il un véritable défi de sécurité ?
Le danger réside dans le fait que les agents d'IA brisent la chaîne de la "responsabilité humaine". Lorsqu'un agent commet une erreur ou exécute un ordre malveillant, les enquêteurs sont confrontés au dilemme de déterminer l'autorité (Authority) qui l'a permis. Est-ce l'employé qui a créé l'agent ? L'utilisateur qui a accordé l'autorisation OAuth ? Ou l'agent fonctionne-t-il de manière totalement autonome ? Sans journaux précis reliant chaque action à une décision humaine claire, les entreprises restent incapables de combler les failles et d'empêcher la répétition des attaques.