마이크로소프트, AI 에이전트 보호 및 관리를 위한 고급 보안 기능 출시
마이크로소프트는 기업 내 AI 에이전트(AI Agents) 생태계를 보호하기 위한 새로운 보안 기능 및 혁신 기술 패키지를 발표했습니다. 이는 보안 프로젝트인 '프로젝트 퍼셉션(Project Perception)'의 범위 확장과 '마이크로소프트 엔트라 에이전트 ID(Microsoft Entra Agent ID)' 업데이트를 통해 이루어집니다.
이번 조치는 업무 환경에서 AI 에이전트가 급속히 확산됨에 따라 취해졌습니다. 현재 이러한 시스템은 기업 데이터 및 애플리케이션에 직접 접근해야 하는 다양한 프로그래밍 및 분석 작업을 수행하고 있으며, 이로 인해 보안, 데이터 보호, 모델 동작 조작 등과 관련된 새로운 도전 과제와 위험이 발생하고 있습니다.
주요 신규 보안 기능
이번 업데이트는 보안 의사 결정 권한을 AI 모델 자체로부터 분리하고, 제로 트러스트(Zero Trust) 원칙과 최소 권한 원칙에 기반한 독립적인 제어 시스템을 제공하는 데 중점을 둡니다. 주요 추가 사항은 다음과 같습니다.
- 확장된 에이전트 탐지: 탐지 범위를 30개 유형 추가하여 총 60개 유형으로 확대했습니다. 여기에는 Claude Code, OpenAI Codex, GitHub Copilot과 같은 유명 도구가 포함되며, 이를 통합 레지스트리에 통합합니다.
- 독립적인 디지털 ID (Microsoft Entra Agent ID): 각 에이전트에게 사용자나 후원자와 독립적인 고유 ID를 부여하여 활동 추적, 관리 및 거버넌스 정책을 정확하게 적용할 수 있도록 합니다.
- 동적 권한 (Dynamic Permissions): 기본 권한을 제로(Zero) 상태에서 시작하며, 에이전트에게 사용자 권한을 자동으로 부여하지 않습니다. 대신 작업별로 접근 권한을 할당하고 실행 시간을 지정하며 작업 완료 즉시 권한을 회수합니다.
- 동적 위험 및 조건부 접근: '동적 에이전트 위험(Dynamic Agent Risk)' 메커니즘을 통해 에이전트의 행동과 운영 맥락을 지속적으로 모니터링합니다. 행동 편향이나 의심스러운 입력이 감지되면 즉시 권한을 자동으로 조정합니다.
- 가디언 에이전트 (Guardian Agents): 자동화된 속도로 작동하는 보안 에이전트를 배치하여 인간 관리자가 승인한 프레임워크 내에서 보호 계획을 실행하고 경고에 대응합니다.
기업을 위한 실질적인 변화
수십만 개의 AI 에이전트를 사용하는 기업들은 느린 수동 대응 방식에서 벗어나 모니터링 및 제어 프로세스를 자동화하게 됩니다. 에이전트가 조작 시도나 프롬프트 인젝션 공격에 직면할 경우, 시스템은 생산성을 유지하면서 단계적으로 대응합니다. 예를 들어, 위험 수준이 높아지면 시스템을 갑자기 중단하는 대신 쓰기 권한을 제한하고 읽기 권한만 유지하거나, 운영 환경을 완전히 격리하는 방식을 취할 수 있습니다.