Microsoft a mis en garde contre les risques de sécurité croissants associés au déploiement d'agents d'IA dans les environnements d'entreprise, affirmant que les modèles avancés ne peuvent pas être entièrement fiables, quel que soit leur développeur. Ces avertissements interviennent alors que les entreprises accordent à ces systèmes de vastes privilèges pour accéder à des données sensibles et exécuter des opérations critiques, exposant ainsi la sécurité des données à des risques similaires au phénomène de « menace interne ».
Surveillance du comportement des agents via de nouveaux outils
En réponse à ces défis, Microsoft a annoncé la fonctionnalité « Guardian Agents », conçue spécifiquement pour surveiller les agents d'IA et sécuriser leur fonctionnement. Cette initiative s'inscrit dans le cadre du « Project Perception », lancé en juin dernier pour renforcer la cybersécurité assistée par l'IA. La société a également ajouté de nouvelles mises à jour au service « Microsoft Defender », permettant de détecter jusqu'à 60 types d'agents d'IA utilisés par les employés, tels que Claude Code, Codex et OpenClaw.
Pourquoi les modèles avancés ne peuvent-ils pas être fiables ?
- Difficulté à prédire le comportement : Les modèles sont entraînés pour accomplir des tâches et non pour respecter strictement les règles internes des entreprises.
- Étendue des privilèges : Les agents possèdent de larges capacités d'accès aux outils et aux données, ce qui rend toute erreur menaçante pour la sécurité de l'entreprise.
- Indépendance de la surveillance : Microsoft souligne la nécessité de séparer l'entité qui développe les modèles de celle qui surveille leur comportement et évalue leurs risques.
Contrôle et approbation humaine
Les nouveaux outils introduits par la société incluent la possibilité de restreindre l'accès des agents aux systèmes et aux données sensibles, et d'ajuster leurs privilèges en fonction de la nature des tâches qui leur sont confiées. Ces outils prennent en charge un mécanisme de demande d'approbation humaine immédiate lorsque le système détecte des décisions ou des comportements impliquant des risques potentiels pour le flux de travail.
Qu'est-ce qui change concrètement ?
Le changement pratique se manifeste par une transition de la stratégie de sécurité de l'information vers la surveillance interne de l'IA via des mécanismes indépendants des entreprises développant les modèles. Dans le même contexte, Microsoft a rejoint en tant que membre fondateur la plateforme « Open Agent Safety Platform », lancée par Nvidia, dans le but d'isoler les agents au sein d'environnements sécurisés et de surveiller leur comportement via le matériel.