A Microsoft revelou um novo conjunto de controles de segurança projetados para monitorar e restringir "agentes de inteligência artificial" (AI Agents) em ambientes de trabalho corporativos. A empresa adota uma nova filosofia de segurança que trata esses agentes como "insiders" (partes internas) que podem representar um risco, em vez de considerá-los simplesmente softwares confiáveis por padrão.
Esta medida surge como uma expansão do "Project Perception", um sistema de segurança para agentes lançado pela Microsoft em julho passado. Embora o foco inicial do projeto estivesse na defesa contra ataques externos apoiados por IA, ele agora direciona suas ferramentas para agentes gerenciados internamente pelas empresas para garantir que eles não fujam do controle ou sejam explorados.
Mudança radical no conceito de confiança na inteligência artificial
Hayit Galut, vice-presidente executiva de segurança da Microsoft, explicou que as empresas tendem a confiar automaticamente nos agentes que implantam. Ela alertou que os modelos de grande escala (Frontier Models) são treinados para alcançar resultados, mas não foram construídos de acordo com normas organizacionais ou padrões de julgamento humano. Galut apontou que esses agentes geralmente possuem privilégios excessivos e capacidade de acessar dados, ferramentas e sistemas sensíveis, permitindo-lhes tomar decisões em operações vitais que podem levar a desastres se não forem monitoradas.
Por sua vez, Nadim Abdu, vice-presidente corporativo de identidade e acesso à rede da empresa, enfatizou que classificar os agentes como "insiders" não significa necessariamente que eles sejam maliciosos, mas sim que são ferramentas poderosas que podem receber acesso amplo e estão sujeitas a erros, manipulação ou invasão por partes externas.
Mecanismos de defesa: permissões dinâmicas e avaliação de riscos
As novas atualizações incluem o recurso "Dynamic Permissions" (Permissões Dinâmicas), que concede aos agentes privilégios mínimos ou nenhum privilégio no início. O acesso é concedido para cada tarefa individualmente e expira imediatamente após a conclusão ou alteração da tarefa. Ações de alto impacto, por sua vez, exigem revisão humana direta antes da execução.
A Microsoft também introduziu o sistema "Dynamic Agent Risk" (Risco Dinâmico do Agente), que atribui a cada agente uma pontuação de risco atualizada continuamente com base em sua atividade, sinais de identidade, dados e rede. Esta métrica leva em consideração vários fatores, incluindo:
- As configurações de segurança do agente e os recursos que ele pode acessar.
- O volume de danos potenciais em caso de erro.
- O grau de desvio do agente em relação aos objetivos definidos pelo usuário ou pela organização.
Controle condicional e "agentes guardiões"
Para aprimorar a resposta automatizada, a empresa lançou o recurso de acesso condicional dinâmico, que permite reduzir os privilégios do agente assim que sua pontuação de risco aumenta, como converter suas permissões de "leitura e gravação" para "somente leitura", ou isolá-lo completamente da rede, se necessário.
Para gerenciar essas operações em grande escala, a Microsoft introduziu os chamados "Guardian Agents" (Agentes Guardiões). São agentes de inteligência artificial especializados em segurança, operando sob supervisão humana para fazer cumprir as regras de proteção, investigar as causas das alterações nos níveis de risco e sugerir medidas de contenção necessárias.
O que muda na prática para as organizações?
Esta evolução significa que as organizações não se limitarão mais a monitorar funcionários humanos, mas gerenciarão uma "força de trabalho digital" sujeita aos mesmos padrões rigorosos de supervisão. A Microsoft ampliou o escopo de descoberta para incluir 35 tipos adicionais de agentes locais, elevando o total para 60 tipos suportados, incluindo ferramentas populares como (Claude Code), (OpenAI Codex) e (GitHub Copilot). Este sistema põe fim à era dos "agentes com privilégios absolutos" e impõe um ambiente de trabalho baseado no princípio de "verificação constante" (Zero Trust), mesmo em relação às ferramentas inteligentes desenvolvidas pela própria empresa.