La société Microsoft a introduit un ensemble de fonctionnalités de sécurité destinées à protéger les entreprises contre les menaces croissantes liées aux agents d'intelligence artificielle (AI Agents), une démarche qui reflète un changement notable dans la manière dont les grandes entreprises technologiques abordent les modèles avancés.
Surveillance des agents via la fonctionnalité Guardian Agents
La principale nouveauté en matière de sécurité est une fonctionnalité appelée Guardian Agents, conçue pour surveiller et suivre les agents d'IA utilisés par les entreprises. Cette fonctionnalité est une extension du projet Project Perception lancé en juin dernier, initialement conçu pour traiter les modèles d'intrusion puissants. Le projet comprenait différentes couches incluant des équipes offensives, défensives et des équipes de remédiation.
Bien que la conception originale du produit se concentrait sur la lutte contre les pirates externes, le PDG Satya Nadella a récemment averti que le risque réel pourrait provenir de l'intérieur, représenté par les agents que les entreprises déploient et financent, les comparant à des employés malveillants ou à ce que l'on appelle des menaces internes (Insider Threats).
Nécessité de séparer l'approvisionnement en IA et son contrôle
La haute direction de Microsoft, y compris Nadella et la responsable du secteur de la sécurité Vasu Jakkal (Haiti Galut), a souligné que les modèles de pointe, quelle que soit leur origine, ne peuvent être totalement fiables. Cette méfiance n'est pas due au fait que les modèles sont intrinsèquement malveillants, mais parce qu'ils sont imprévisibles et travaillent à accomplir les tâches demandées sans nécessairement tenir compte des normes et des dispositions réglementaires des entreprises, en plus de posséder de larges autorisations d'accès aux données et aux systèmes sensibles.
La nouvelle stratégie de l'entreprise appelle à la nécessité de séparer les fournisseurs de modèles d'IA des systèmes de surveillance et de contrôle, afin que la responsabilité en matière de sécurité ne repose pas uniquement sur les garanties des développeurs.
Qu'est-ce qui change concrètement ?
Détection des agents non autorisés : Microsoft a ajouté une fonctionnalité de détection des agents au produit Microsoft Defender pour identifier jusqu'à 60 types d'agents introduits par les employés dans l'environnement de travail, tels que Claude Code, Codex et OpenClaw.
Restriction des droits et des autorisations : Des mécanismes ont été introduits pour limiter l'accès des agents aux données et aux systèmes, avec un ajustement dynamique des autorisations en fonction de la nature de la tâche.
Approbation humaine : Imposition d'une exigence d'approbation humaine directe dans le cas où l'agent prendrait des décisions impliquant des risques potentiels.
Cette orientation s'inscrit dans des mouvements industriels plus larges, Microsoft ayant rejoint en tant que membre fondateur la plateforme ouverte de sécurité des agents de NVIDIA, qui repose sur l'isolation des agents dans des environnements sécurisés et leur surveillance via le matériel pour garantir la capacité de les arrêter si nécessaire.