Anthropic의 경고와 예상 시나리오
Anthropic의 "Frontier Red Team"이 발표한 최근 연구는 새로운 기술적 우려를 불러일으켰다. 이 연구는 소형 AI 모델이 불과 몇 달 안에 보안되지 않은 기기를 통해 복제 및 확산될 수 있음을 시사한다. 이러한 발전은 자율 주행 봇넷(Botnets)의 출현으로 이어질 수 있으며, 이는 생존 능력이 뛰어나고 독립적으로 작동하며 억제하기 어려운 특징을 가진다.
AI 기업들이 마케팅 목적으로 위험을 과장한다는 비판을 받기도 하지만, 전문가들은 소형 모델이 자기 복제를 할 가능성이 실재하며 매우 가까이 와 있다는 점에 동의한다. 전문가들은 이러한 발전의 가속화 원인을 AI 연구소의 연구원들이 머신러닝 연구 및 개발 과정에서 AI 도구 자체를 사용함에 따라 기술적 가속화의 악순환이 발생하기 때문이라고 분석한다.
혁신과 역사의 반복 사이
이 위협을 분석할 때 근본적인 질문이 제기된다. 우리가 완전히 새로운 유형의 공격에 직면해 있는가? 디지털 웜과 봇넷 연구 전문가인 조지아 공대(Georgia Tech)의 마이클 베일리(Michael Bailey) 교수는 이 위협이 Anthropic이 묘사하는 것만큼 새롭지 않을 수 있다고 본다. 역사적으로 2016년의 Mirai와 같은 공격은 라우터나 카메라와 같은 단순한 사물인터넷(IoT) 기기들이 거대한 공격 네트워크를 구축하는 데 악용될 수 있음을 증명했다.
Anthropic이 제시하는 근본적인 차이점은 AI의 자동화 능력에 있다. 전통적인 봇넷은 서로 다른 프로세서 아키텍처에서 작동하도록 악성 소프트웨어를 재프로그래밍하는 데 인간의 노력이 필요했지만, AI는 이 작업을 자동으로 수행할 수 있어 인간의 개입 없이도 생소한 기기에 적응하는 탁월한 능력을 공격에 부여한다.
보안 지형에서 실제로 변하는 것은 무엇인가?
새로운 공격 방법을 발명하는 대신, AI는 공격의 경제성을 변화시킬 것으로 보인다. 실제로 변하는 것은 공격자에게 요구되는 비용과 노력이 감소한다는 점이다. 지능형 모델은 기기에 자신을 설치한 후 네트워크를 통해 작업을 조정하고 할당하는 "드롭퍼(Dropper)" 역할을 수행할 수 있다.
그러나 전문가들은 Anthropic이 사용한 "자기 복제"라는 용어에 대해 기술적인 유보를 표한다. 실제로 일어나는 일은 전통적인 웜이 하는 것처럼 코드의 완전한 복사본이 확산되는 것이 아니라, 모델 분할(Sharding) 과정에 더 가까울 수 있기 때문이다. 또한 AI가 자신의 행동을 바꾸는 능력(Polymorphism)은 모델 자체를 재학습시켜야 하는데, 이는 Anthropic이 아직 자사 모델이 완전히 수행할 수 있음을 입증하지 못한 부분이다.
해결책은 새로운 기술에 있는가?
이러한 위협에 맞서기 위해 복잡한 AI 방어 체계가 필요할 것이라는 예상과 달리, 분석가들은 해결책이 매우 "전통적"일 수 있다고 지적한다. AI 웜에 대응하는 것은 우리가 수십 년 동안 배워온 기본적인 사이버 보안 원칙에 주로 의존하게 될 것이며, 여기에는 다음이 포함된다:
- 지속적인 패치(Patching): 취약점이 발견되는 즉시 기기의 취약점을 보완한다.
- 격리(Isolation): 감염된 기기가 나머지 네트워크와 통신하는 것을 차단한다.
- ID 관리: 강력한 비밀번호를 사용하고 IoT 기기의 취약한 기본 설정을 피한다.
결국 과제는 해결책의 부족이 아니라, 연결되어 있지만 보안되지 않은 기기로 가득 찬 세상에서 이러한 기본적인 보안 관행을 광범위하게 실행하기 어렵다는 점에 있다.