Microsoft a annoncé un ensemble de capacités et d'innovations de sécurité visant à protéger l'écosystème des agents d'IA (AI Agents) au sein des entreprises, par le biais de l'extension de son projet de sécurité « Project Perception » et de mises à jour incluant « Microsoft Entra Agent ID ».
Cette mesure intervient en réponse à la prolifération rapide des agents d'IA dans les environnements de travail, où ces systèmes assument désormais de multiples tâches de programmation et d'analyse nécessitant un accès direct aux données et aux applications de l'entreprise, ce qui soulève de nouveaux défis et risques liés à la sécurité institutionnelle et à la protection des données contre les erreurs, les piratages ou la manipulation du comportement des modèles.
Principales capacités de sécurité
Les mises à jour annoncées reposent sur la séparation de l'autorité de prise de décision en matière de sécurité du modèle d'IA lui-même, tout en fournissant un système de contrôle indépendant basé sur les principes de confiance zéro (Zero Trust) et du moindre privilège. Les ajouts principaux incluent :
- Découverte étendue des agents locaux : Extension de la portée de la découverte pour inclure 30 types supplémentaires, portant le total à 60 types pris en charge, y compris des outils populaires tels que Claude Code, OpenAI Codex et GitHub Copilot, et leur intégration dans un registre unifié.
- Identité numérique indépendante (Microsoft Entra Agent ID) : Attribution à chaque agent d'une identité primaire indépendante de l'utilisateur à l'origine ou du parrain, afin de faciliter le suivi des activités, la gestion et l'application précise des politiques de gouvernance.
- Autorisations dynamiques (Dynamic Permissions) : Démarrage avec des autorisations nulles et absence d'octroi automatique des privilèges de l'utilisateur direct à l'agent, en privilégiant plutôt une personnalisation de l'accès selon les tâches, avec définition des temps d'exécution et révocation immédiate après leur achèvement.
- Risques et accès conditionnel dynamique : Surveillance continue du comportement de l'agent et du contexte d'exécution via les mécanismes « Dynamic Agent Risk » pour ajuster automatiquement les autorisations dès la détection de toute déviation comportementale ou exposition à des entrées suspectes.
- Agents de garde (Guardian Agents) : Utilisation d'agents de sécurité opérant à la vitesse de la machine pour mettre en œuvre des plans de protection et répondre aux alertes dans le cadre des cadres approuvés par les superviseurs humains.
Qu'est-ce qui change concrètement pour les entreprises ?
Les entreprises qui s'appuient sur des centaines de milliers d'agents d'IA passent d'une dépendance à une réponse humaine manuelle et lente à l'automatisation des processus de surveillance et de limitation. Lorsqu'un agent fait face à des tentatives de manipulation ou d'injection de requêtes, le système réagit de manière progressive pour préserver la productivité des employés ; il est ainsi possible de restreindre les autorisations d'écriture tout en conservant la lecture, ou d'isoler complètement l'environnement d'exécution en cas d'escalade des risques, sans arrêter le système de manière soudaine.