A Microsoft introduziu um conjunto de recursos de segurança destinados a proteger as organizações contra as crescentes ameaças associadas aos agentes de inteligência artificial (AI Agents), em um movimento que reflete uma mudança notável na forma como as grandes empresas de tecnologia lidam com modelos avançados.
Monitoramento de agentes via Guardian Agents
A principal das novas adições de segurança é um recurso conhecido como Guardian Agents, projetado para monitorar e rastrear os agentes de IA utilizados pelas empresas. Este recurso é uma extensão do Project Perception, lançado em junho passado, que foi originalmente concebido para lidar com modelos de ataque robustos. O projeto incluiu diferentes camadas, abrangendo equipes de ataque, defesa e equipes de remediação.
Embora o design original do produto focasse no combate a hackers externos, o CEO da empresa, Satya Nadella, alertou recentemente que o risco real pode vir de dentro, representado pelos agentes que as organizações implantam e pagam, comparando-os a funcionários desonestos ou ao que é conhecido como ameaças internas (Insider Threats).
A necessidade de separar o fornecimento da IA do seu controle
A alta administração da Microsoft, incluindo Nadella e a responsável pelo setor de segurança, Hayete Gallot, enfatizou que os modelos de fronteira, independentemente de quem os desenvolveu, não podem ser totalmente confiáveis. Essa desconfiança não se deve ao fato de os modelos serem inerentemente maliciosos, mas sim por serem imprevisíveis e trabalharem para realizar as tarefas solicitadas sem necessariamente considerar os padrões e regulamentos corporativos, além de possuírem amplos privilégios de acesso a dados e sistemas sensíveis.
A nova estratégia da empresa defende a necessidade de separar os fornecedores de modelos de IA dos sistemas de monitoramento e controle, de modo que a responsabilidade pela segurança não se limite apenas às garantias dos desenvolvedores.
O que muda na prática?
Detecção de agentes não autorizados: A Microsoft adicionou um recurso de detecção de agentes ao produto Microsoft Defender para identificar até 60 tipos de agentes que os funcionários trazem para o ambiente de trabalho, como Claude Code, Codex e OpenClaw.
Restrição de acesso e permissões: Foram introduzidos mecanismos que limitam o acesso dos agentes a dados e sistemas, com ajuste dinâmico de permissões com base na natureza da tarefa.
Aprovação humana: Imposição da exigência de aprovação humana direta caso o agente tome decisões que envolvam riscos potenciais.
Esta abordagem está alinhada com movimentos mais amplos da indústria, com a Microsoft juntando-se como membro fundador à plataforma aberta de segurança de agentes da NVIDIA, que se baseia no isolamento de agentes em ambientes seguros e no seu monitoramento via hardware para garantir a capacidade de interrompê-los quando necessário.