Microsoft a dévoilé un nouvel ensemble de contrôles de sécurité conçus pour surveiller et restreindre les "agents d'intelligence artificielle" (AI Agents) dans les environnements de travail professionnels. Dans cette démarche, l'entreprise adopte une nouvelle philosophie de sécurité consistant à traiter ces agents comme des "parties internes" (Insiders) susceptibles de présenter un risque, plutôt que de les considérer comme des logiciels fiables par défaut.
Cette mesure constitue une extension du "Project Perception", un système de sécurité pour les agents lancé par Microsoft en juillet dernier. Alors que l'accent initial du projet était mis sur la défense contre les cyberattaques externes alimentées par l'IA, il oriente désormais ses outils vers les agents gérés en interne par les entreprises pour s'assurer qu'ils ne deviennent pas incontrôlables ou ne soient pas exploités.
Un changement radical dans la notion de confiance envers l'IA
Hayit Galut, vice-présidente exécutive de la sécurité chez Microsoft, a expliqué que les entreprises ont tendance à faire automatiquement confiance aux agents qu'elles déployant. Elle a averti que les grands modèles de langage (Frontier Models) sont formés pour obtenir des résultats, mais qu'ils n'ont pas été conçus selon des normes organisationnelles ou des critères de jugement humain. Mme Galut a souligné que ces agents disposent souvent de privilèges excessifs et d'un accès à des données, des outils et des systèmes sensibles, ce qui leur permet de prendre des décisions dans des processus critiques qui pourraient entraîner des catastrophes s'ils ne sont pas surveillés.
De son côté, Nadim Abdu, vice-président de l'entreprise pour l'identité et l'accès au réseau, a souligné que classer les agents comme des "parties internes" ne signifie pas nécessairement qu'ils sont malveillants, mais plutôt qu'ils constituent des outils puissants dotés d'un accès étendu, qui sont sujets à l'erreur, à la manipulation ou au piratage par des tiers.
Mécanismes de défense : autorisations dynamiques et évaluation des risques
Les nouvelles mises à jour incluent la fonctionnalité des "autorisations dynamiques" (Dynamic Permissions), qui accorde aux agents un minimum de privilèges, voire aucun au départ. L'accès est accordé tâche par tâche, et cet accès expire dès que la tâche est achevée ou modifiée. Quant aux actions à fort impact, elles nécessitent une révision humaine directe avant d'être exécutées.
Microsoft a également introduit le système de "risque d'agent dynamique" (Dynamic Agent Risk), qui attribue à chaque agent un score de risque constamment mis à jour en fonction de son activité, des signaux d'identité, des données et du réseau. Cette mesure prend en compte plusieurs facteurs, notamment :
- Les paramètres de sécurité de l'agent et les ressources auxquelles il peut accéder.
- L'ampleur des dommages potentiels en cas d'erreur.
- Le degré d'écart de l'agent par rapport aux objectifs fixés par l'utilisateur ou l'organisation.
Contrôle conditionnel et "agents gardiens"
Pour renforcer la réponse automatique, l'entreprise a lancé la fonctionnalité d'"accès conditionnel dynamique", qui permet de réduire les privilèges d'un agent dès que son niveau de risque augmente, comme le passage de ses droits de "lecture et écriture" à "lecture seule", ou son isollation totale du réseau si nécessaire.
Pour gérer ces opérations à grande échelle, Microsoft a introduit ce qu'il appelle les "agents gardiens" (Guardian Agents). Il s'agit d'agents d'intelligence artificielle spécialisés dans la sécurité, opérant sous supervision humaine pour appliquer les règles de protection, enquêter sur les causes des variations des niveaux de risque et suggérer les mesures de confinement nécessaires.
Qu'est-ce qui change concrètement pour les entreprises ?
Cette évolution signifie que les organisations ne se contenteront plus de surveiller les employés humains, mais qu'elles géreront une "main-d'œuvre numérique" soumise aux mêmes normes de contrôle strictes. Microsoft a étendu la portée de la découverte pour inclure 35 types supplémentaires d'agents locaux, portant le total à 60 types pris en charge, incluant des outils populaires tels que (Claude Code), (OpenAI Codex) et (GitHub Copilot). Ce système met fin à l'ère des "agents aux privilèges absolus" et impose un environnement de travail reposant sur le principe de la "vérification permanente" (Zero Trust), même à l'égard des outils intelligents développés par l'entreprise elle-même.