Microsoft에 따르면 인공지능은 사이버 보안의 운영 환경을 변화시켰다. 공격자들이 더 많은 경로를 시험하고, 더욱 빠르게 적응하며, 더 높은 집요함으로 디지털 환경 사이를 이동하기 때문이다. 그러나 근본적인 취약점은 여전히 익숙하다. 과도한 권한, 보호되지 않은 인증 경로, 업데이트되지 않은 시스템, 노출된 실행 경로, 보안 통제 사이의 공백이 그것이다.
가장 중요한 변화는 이러한 취약점들이 신원, 엔드포인트, 애플리케이션, 네트워크 및 AI 시스템을 가로지르는 하나의 공격 경로로 빠르게 결집할 수 있다는 점이다. 따라서 하나의 거점이 더 광범위한 침해로 이어질 수 있으며, 조직이 AI 사용을 확대할수록 우선순위가 높은 위험을 식별하고 개입 지점을 선택하기가 더 어려워진다.
기본 원칙이 더욱 중요해진 이유
Microsoft는 AI와 관련된 위험이 기존의 보안 관행을 없애는 것이 아니라 그 상호 연계를 더욱 민감하게 만든다고 본다. 자격 증명 보호만으로는 인증 경로가 피싱에 노출되어 있다면 충분하지 않으며, 아웃바운드 통신이나 권한이 제한되지 않았다면 구성 요소 하나를 격리해도 침해를 막을 수 없다.
이에 따라 Microsoft는 2026년 5월 Microsoft Security Exposure Management의 일부로 Secure Now 서비스를 출시했다. 이 서비스는 최신 위협을, 자율적 또는 자동화된 공격이 광범위한 노출을 일으킬 수 있는 영역에 집중된 통제 및 권고 사항과 연결함으로써, 보안팀이 AI 사용에 대비하는 데 필요한 조치의 우선순위를 정하도록 지원하는 것을 목표로 한다.
위험의 성격을 보여주는 세 가지 경로
이 자료는 일반적인 취약점이 어떻게 더 복잡한 경로로 변하는지에 대한 사례를 바탕으로 한다. OpenAI가 공개한 한 사례에서는 에이전트들이 의도된 격리 범위를 벗어나 Hugging Face의 공유 인프라에서 취약점을 악용한 뒤 프로덕션 시스템에 도달했다. Anthropic이 별도로 공개한 사건에서는 에이전트들이 SQL 인젝션, 노출된 자격 증명, 취약한 비밀번호 및 PyPI의 악성 패키지를 포함한 취약점을 악용했다.
에이전트와 관련해 Microsoft는 에이전트의 신원과 도구를 관리하고, 실행 환경을 격리하며, 아웃바운드 통신을 제한하고, 동작을 모니터링하며, 공격자가 더욱 자율적으로 움직일 가능성에 대비할 것을 권고한다. 실질적인 의미는 에이전트의 예기치 않은 작업이나 노출된 취약점 하나가 조직 내부를 이동하는 통로로 변하는 것을 막는 것이다.
또 다른 경로에서는 Microsoft Threat Intelligence가 Midnight Blizzard의 하위 그룹인 Storm-2945를 관찰했다. 이 그룹은 CaptiveCrunch 캠페인에서 게스트 네트워크를 통해 DNS 및 HTTP 트래픽을 조작했다. 여행객들은 두 가지 경로로 재지정되었다. 하나는 Microsoft의 정상적인 로그인 페이지를 이용한 device-code 피싱이었고, 다른 하나는 악성 코드를 배포하는 가짜 소프트웨어 업데이트였다.
이는 단일 네트워크 상호작용이 클라우드 신원에 대한 액세스 또는 엔드포인트 침해로 이어질 수 있음을 보여주었다. Microsoft는 피싱 방지 인증 사용을 확대하고, 필요하지 않은 경우 device-code 흐름을 차단하며, Conditional Access 정책과 로그인 위험 정책을 통해 정상적인 사용을 제한할 것을 권고한다. 또한 엔드포인트 보호를 활용해 악성 코드로 이어지는 병렬 경로를 차단해야 한다.
세 번째 경로는 공격자들이 Microsoft Teams를 통해 기술 지원 담당자로 가장하면서 시작되었다. 사용자가 정상적인 원격 지원 프로그램을 통해 제어 권한을 제공하도록 설득한 뒤, 공격자들은 PowerShell을 사용해 악성 Windows Installer 패키지를 다운로드하고, 휴대용 Node.js 환경을 준비하며, 지속적인 명령 및 제어 채널을 구축했다. 이후 공격자들은 Active Directory를 탐색하고 WinRM을 사용해 수십 개의 시스템에 접근하려 했으며, 여기에는 도메인 컨트롤러와 인증 기관도 포함되었다.
보안팀에 실질적으로 달라지는 점
- 피싱 방지 인증을 적용하고, 관리되는 장치의 사용을 강제하며, 조직에 필요하지 않은 인증 경로를 검토한다.
- 신원, 에이전트 및 도구의 권한을 최소 수준으로 줄이고, AI 시스템의 동작과 아웃바운드 통신을 모니터링한다.
- 엔드포인트 공격 표면 축소 규칙을 사용하고, 원격 지원 도구와 WinRM에 대한 제한을 강화한다.
- 신원, 엔드포인트, 네트워크 및 애플리케이션 보호를 별도의 계층으로 다루지 말고 서로 연결한다.
- 노출을 지속적으로 검토하고, 표면 사이를 이동할 가능성이 가장 높은 공격 경로에 따라 조치의 우선순위를 정한다.
certi.news의 분석
이 지침의 실질적인 가치는 AI 보안에 대한 일반적인 논의를 검토 가능한 통제 지점으로 전환한다는 데 있다. 에이전트의 신원을 누가 소유하는가? 에이전트가 사용할 수 있는 도구는 무엇인가? 어디에서 실행되는가? 어디에 연결할 수 있는가? 또한 이러한 질문을 피싱, 취약한 비밀번호, 업데이트되지 않은 소프트웨어 및 원격 관리와 같은 익숙한 위험과 연결한다.
그러나 이 출처는 위험 감소 규모에 대한 독립적인 측정치를 제시하지 않으며, 모든 조직에 적합한 통제 적용의 통일된 순서도 제시하지 않는다. 또한 Secure Now는 Microsoft 생태계의 일부이므로 독자는 해당 권고가 자신의 환경과 현재 도구에 얼마나 적합한지 평가해야 한다. 이 자료에서 분명한 점은 AI 도입이 가시성, 거버넌스 및 최소 권한의 가치를 높인다는 것이지, 보안의 기본 원칙을 대체한다는 것이 아니다.