Microsoft ha revelado un nuevo conjunto de controles de seguridad diseñados para monitorear y restringir a los "agentes de inteligencia artificial" (AI Agents) dentro de los entornos de trabajo corporativos. La empresa adopta en este enfoque una nueva filosofía de seguridad que consiste en tratar a estos agentes como "personas internas" (Insiders) que pueden representar un riesgo, en lugar de considerarlos simplemente software confiable por defecto.
Este paso llega como una ampliación del "Proyecto Perception" (Project Perception), un sistema de seguridad para agentes lanzado por Microsoft el pasado mes de julio. Si bien el enfoque inicial del proyecto se centraba en la defensa contra ataques externos impulsados por inteligencia artificial, ahora dirige sus herramientas hacia los agentes que las empresas gestionan internamente para garantizar que no se descontrolen ni sean explotados.
Un cambio radical en el concepto de confianza en la inteligencia artificial
Hayat Gallot, vicepresidenta ejecutiva de seguridad en Microsoft, explicó que las empresas suelen tender a confiar automáticamente en los agentes que implementan. Advirtió que los grandes modelos lingüísticos (Frontier Models) están entrenados para lograr resultados, pero no se han construido de acuerdo con las normas organizativas o los estándares de juicio humano. Gallot señaló que estos agentes a menudo disfrutan de privilegios excesivos y de la capacidad de acceder a datos, herramientas y sistemas sensibles, lo que les permite tomar decisiones en operaciones críticas que podrían provocar catástrofes si no se supervisan.
Por su parte, Nadin Abdo, vicepresidente de identidad y acceso a la red de la compañía, enfatizó que clasificar a los agentes como "personas internas" no significa necesariamente que sean maliciosos, sino que son herramientas potentes a las que se les puede otorgar un acceso amplio y que son vulnerables a errores, manipulaciones o hackeos por parte de terceros.
Mecanismos de defensa: permisos dinámicos y evaluación de riesgos
Las nuevas actualizaciones incluyen la función de "permisos dinámicos" (Dynamic Permissions), que otorga a los agentes los mínimos privilegios o ninguno en absoluto al principio. El acceso se concede para cada tarea de forma individual y finaliza inmediatamente una vez que la tarea se completa o cambia. En cuanto a las acciones de alto impacto, estas requerirán una revisión humana directa antes de su ejecución.
Microsoft también ha introducido el sistema de "riesgo de agente dinámico" (Dynamic Agent Risk), que asigna a cada agente una puntuación de riesgo que se actualiza continuamente en función de su actividad, señales de identidad, datos y red. Esta métrica tiene en cuenta varios factores, entre los que se incluyen:
- La configuración de seguridad del agente y los recursos a los que puede acceder.
- La magnitud del daño potencial en caso de producirse un error.
- El grado en que el agente se desvía de los objetivos establecidos por el usuario o la organización.
Control condicional y "agentes guardianes"
Para mejorar la respuesta automatizada, la compañía lanzó la función de "acceso condicional dinámico", que permite reducir los privilegios del agente tan pronto como aumente su puntuación de riesgo, como cambiar sus permisos de "lectura y escritura" a "solo lectura", o aislarlo completamente de la red si es necesario.
Para gestionar estas operaciones a escala, Microsoft introdujo los denominados "agentes guardianes" (Guardian Agents). Se trata de agentes de inteligencia artificial especializados en seguridad que operan bajo supervisión humana para hacer cumplir las reglas de protección, investigar las causas de los cambios en los niveles de riesgo y proponer las medidas de contención necesarias.
¿Qué cambia prácticamente para las organizaciones?
Esta evolución significa que las organizaciones ya no se limitarán a supervisar a los empleados humanos, sino que gestionarán una "fuerza laboral digital" sujeta a los mismos estándares de control estrictos. Microsoft ha ampliado el alcance de descubrimiento para incluir 35 tipos adicionales de agentes locales, elevando el total a 60 tipos compatibles, incluidas herramientas populares como (Claude Code), (OpenAI Codex) y (GitHub Copilot). Este sistema pone fin a la era de los "agentes con privilegios absolutos" e impone un entorno de trabajo basado en el principio de "verificación constante" (Zero Trust) incluso hacia las herramientas inteligentes desarrolladas por la propia empresa.