Microsoft ha introducido un ecosistema de funciones de seguridad diseñado para proteger a las organizaciones de las crecientes amenazas relacionadas con los agentes de inteligencia artificial (AI Agents), en un movimiento que refleja un cambio notable en la forma en que las grandes empresas tecnológicas abordan los modelos avanzados.
Monitoreo de agentes a través de la función Guardian Agents
La adición de seguridad más destacada es una función conocida como Guardian Agents, diseñada para monitorear y rastrear los agentes de inteligencia artificial que utilizan las empresas. Esta función es una extensión del proyecto Project Perception, lanzado el pasado mes de junio, el cual fue diseñado inicialmente para lidiar con modelos de ataque potentes. El proyecto incluyó diferentes capas que abarcan equipos de trabajo ofensivos, defensivos y equipos de remediación.
Aunque el diseño original del producto se centraba en contrarrestar a los atacantes externos, el director ejecutivo de la compañía, Satya Nadella, advirtió recientemente que el peligro real podría provenir del interior, representado por los agentes que las organizaciones despliegan y por los que pagan, comparándolos con empleados rebeldes o lo que se conoce como amenazas internas (Insider Threats).
La necesidad de separar el suministro de inteligencia artificial de su control
La alta dirección de Microsoft, incluidos Nadella y la responsable del sector de seguridad, Vasu Jakkal (referida en el texto como Hayete Galot), enfatizaron que los modelos de frontera, independientemente de quién los desarrolle, no pueden ser totalmente confiables. Esta desconfianza no se debe a que los modelos sean inherentemente maliciosos, sino a que son impredecibles y trabajan para lograr las tareas solicitadas sin considerar necesariamente los estándares y regulaciones de las empresas, además de poseer amplios permisos para acceder a datos y sistemas sensibles.
La nueva estrategia de la compañía aboga por la necesidad de separar a los proveedores de modelos de inteligencia artificial de los sistemas de monitoreo y control, de modo que la responsabilidad de seguridad no recaiga únicamente en las garantías de los desarrolladores.
¿Qué cambia en la práctica?
Detección de agentes no autorizados: Microsoft añadió una función de detección de agentes al producto Microsoft Defender para identificar hasta 60 tipos de agentes que los empleados introducen en el entorno laboral, como Claude Code, Codex y OpenClaw.
Restricción de acceso y permisos: Se han introducido mecanismos que limitan el acceso de los agentes a datos y sistemas, ajustando los permisos dinámicamente según la naturaleza de la tarea.
Aprobación humana: Se impone el requisito de aprobación humana directa en caso de que el agente tome decisiones que impliquen riesgos potenciales.
Esta tendencia está alineada con movimientos industriales más amplios, ya que Microsoft se unió como miembro fundador a la plataforma abierta de seguridad de agentes de NVIDIA, la cual se basa en aislar a los agentes en entornos seguros y monitorearlos a través del hardware para garantizar la capacidad de detenerlos cuando sea necesario.