마이크로소프트는 AI 에이전트와 관련된 증가하는 위협으로부터 기업을 보호하기 위해 설계된 보안 기능 체계를 도입했으며, 이는 주요 기술 기업들이 고급 모델을 다루는 방식에 있어 주목할 만한 변화를 보여줍니다.
Guardian Agents를 통한 에이전트 모니터링
가장 눈에 띄는 새로운 보안 추가 사항은 기업이 사용하는 AI 에이전트를 모니터링하고 추적하도록 설계된 Guardian Agents라는 기능입니다. 이 기능은 지난 6월 시작된 Project Perception의 확장판으로, 원래 강력한 해킹 모델을 다루기 위해 설계되었습니다. 이 프로젝트에는 공격 팀, 방어 팀, 복구 팀을 포함한 다양한 계층이 포함되었습니다.
제품의 원래 설계는 외부 해커 대응에 초점을 맞췄으나, 사티아 나델라 최고경영자(CEO)는 최근 진정한 위험은 내부에서 올 수 있다고 경고했습니다. 그는 기업이 배포하고 비용을 지불하는 에이전트들을 불량 직원이나 소위 '내부 위협(Insider Threats)'에 비유했습니다.
AI 공급과 통제 분리의 필요성
나델라 CEO와 하이티 갈루트 보안 부문 책임자를 포함한 마이크로소프트 경영진은 개발 주체와 관계없이 프런티어 모델을 완전히 신뢰할 수는 없다고 강조했습니다. 이러한 불신은 모델이 본질적으로 악의적이기 때문이 아니라, 예측 불가능하며 기업의 규제 기준이나 규정을 반드시 고려하지 않고 작업을 수행하기 때문입니다. 또한 이들은 민감한 데이터와 시스템에 접근할 수 있는 광범위한 권한을 가지고 있습니다.
회사의 새로운 전략은 AI 모델 제공업체와 모니터링 및 제어 시스템을 분리해야 할 필요성을 강조하며, 보안 책임이 개발자의 보증에만 국한되어서는 안 된다고 주장합니다.
실질적으로 무엇이 변하는가?
승인되지 않은 에이전트 탐지: 마이크로소프트는 Microsoft Defender 제품에 에이전트 탐지 기능을 추가하여 직원들이 업무 환경으로 가져오는 Claude Code, Codex, OpenClaw 등 최대 60종의 에이전트를 식별합니다.
권한 및 접근 제한: 에이전트의 데이터 및 시스템 접근을 제한하는 메커니즘이 도입되었으며, 작업 성격에 따라 권한이 동적으로 조정됩니다.
인간의 승인: 에이전트가 잠재적 위험을 수반하는 결정을 내릴 경우 직접적인 인간의 승인을 요구하도록 했습니다.
이러한 움직임은 더 넓은 산업계의 흐름과 일치하며, 마이크로소프트는 엔비디아(NVIDIA)의 오픈 에이전트 보안 플랫폼에 창립 멤버로 합류했습니다. 이 플랫폼은 에이전트를 안전한 환경에 격리하고 하드웨어를 통해 모니터링하여 필요시 즉시 중단할 수 있도록 보장합니다.