Microsoft lanza capacidades de seguridad avanzadas para proteger y gestionar agentes de inteligencia artificial
Microsoft anunció un conjunto de capacidades e innovaciones de seguridad dirigidas a proteger el ecosistema de agentes de inteligencia artificial (AI Agents) dentro de las organizaciones, mediante la expansión de su proyecto de seguridad "Project Perception" y actualizaciones que incluyen "Microsoft Entra Agent ID".
Este paso responde a la rápida proliferación de agentes de inteligencia artificial en entornos laborales, donde estos sistemas ahora realizan múltiples tareas de programación y análisis que requieren acceso directo a los datos y aplicaciones de la empresa, lo que plantea nuevos desafíos y riesgos relacionados con la seguridad institucional y la protección de datos frente a errores, vulneraciones o la manipulación del comportamiento de los modelos.
Principales capacidades de seguridad nuevas
Las actualizaciones anunciadas se centran en separar la autoridad de toma de decisiones de seguridad del propio modelo de inteligencia artificial, proporcionando un sistema de control independiente basado en los principios de confianza cero y el menor privilegio posible. Las adiciones principales incluyen:
- Detección ampliada de agentes locales: Ampliación del alcance de detección para incluir 30 tipos adicionales, alcanzando un total de 60 tipos compatibles, incluidas herramientas populares como Claude Code, OpenAI Codex y GitHub Copilot, integrándolas en un registro unificado.
- Identidad digital independiente (Microsoft Entra Agent ID): Otorgar a cada agente una identidad primaria independiente del usuario que lo origina o lo patrocina, para facilitar el seguimiento de actividades, su gestión y la aplicación precisa de políticas de gobernanza.
- Permisos dinámicos (Dynamic Permissions): Comenzar con permisos nulos y no otorgar automáticamente al agente los privilegios del usuario directo, sino personalizar el acceso según las tareas y definir tiempos de ejecución, revocándolos inmediatamente al finalizar.
- Riesgos y acceso condicional dinámico: Monitoreo continuo del comportamiento del agente y del contexto de operación a través de mecanismos de "Dynamic Agent Risk" para ajustar los permisos automáticamente al detectar cualquier desviación en el comportamiento o exposición a entradas sospechosas.
- Agentes de guardia (Guardian Agents): Empleo de agentes de seguridad que operan a velocidad de máquina para ejecutar planes de protección y responder a alertas dentro de los marcos aprobados por los supervisores humanos.
¿Qué cambia prácticamente para las organizaciones?
Las organizaciones que dependen de cientos de miles de agentes de inteligencia artificial pasan de depender de la respuesta humana manual y lenta a la automatización de los procesos de monitoreo y contención. Cuando un agente se enfrenta a intentos de manipulación o inyección de prompts, el sistema responde de manera gradual que preserva la productividad de los empleados; donde se pueden restringir los permisos de escritura manteniendo los de lectura, o aislar el entorno de ejecución por completo cuando los riesgos aumentan, sin detener el sistema de forma abrupta.