구글 위협 인텔리전스 그룹(GTIG)의 최근 보고서는 사이버 공격의 새롭고 위험한 단계를 공개했다. 공격자들이 직접적인 인간의 개입 없이 취약점 발견부터 악용에 이르기까지 공격의 전체 수명 주기를 자동화할 수 있는 AI 기반 프레임워크를 사용하는 것을 처음으로 포착했다.
모니터링 과정에서 이 그룹은 노출된 실험용 서버에서 발견된 exploit_agent라는 프레임워크를 식별했다. 이 프레임워크는 취약점이 수정된 버전과 아직 수정되지 않은 버전 간의 웹 애플리케이션 코드를 비교하여 취약점을 식별하고, 익스플로잇(Exploits) 소프트웨어를 개발하여 자동으로 실행하도록 설계되었다. 또한 발견된 서버에는 피해자로부터 탈취된 데이터와 정찰 및 웹쉘(Webshells) 배포와 같은 침투 후 활동을 위한 스크립트가 포함되어 있었으며, 프랑스의 교육, 미디어 및 엔터테인먼트 분야를 표적으로 삼은 징후가 있었다.
"기계의 속도"로 작동하는 공격용 프레임워크
보고서는 국가 지원을 받는 그룹을 포함한 공격자들이 작전의 속도와 범위를 넓히기 위해 멀티 에이전트 프레임워크(Multi-agent frameworks)를 채택하기 시작했다고 설명했다. 주요 프레임워크는 다음과 같다:
- Artex: 가장 많이 사용되는 프레임워크로, 주로 중국어를 사용하는 그룹과 연관되어 있다.
- Cairn: 미국의 항공우주 분야를 겨냥한 공격에서 사용된 것이 포착되었다.
- PentAGI: 아시아 지역 조직들을 대상으로 한 체계적인 정찰 및 취약점 스캔에 사용되었다.
- CyberStrikeAI 및 HexStrike AI: 공격자들에 의해 테스트 및 개발 중인 다른 프레임워크들이다.
또한 추론 서비스 및 익스플로잇 개발을 위한 ZeroHollow와 같은 도구와, 동적이고 자율적으로 코드를 실행하고 도구를 생성할 수 있는 능력을 갖춘 오픈 소스 프레임워크 Agent Zero의 사용도 관찰되었다.
AI 기반 위협 범위의 확장
이는 직접적인 해킹에 국한되지 않으며, 대규모 언어 모델(LLMs)의 사용은 다른 분야로도 확장되었다:
- 피싱 서비스(Phishing-as-a-Service): 고객이 챗봇을 통해 피싱 모델을 맞춤화할 수 있도록 하는 Jieyou 서비스와 같은 사례가 있다.
- 영향력 행사 서비스(IaaS): 가상 인물 생성부터 플랫폼을 통한 상호작용적 게시까지, 미디어 허위 정보 캠페인을 관리하기 위해 완전히 자동화된 플랫폼을 사용하는 것이다.
- AI 자원 탈취(LLMJacking): AI 모델의 컴퓨팅 능력을 악용하기 위해 AI 모델에 대한 액세스 자격 증명을 훔치는 작업으로, 한 사례에서는 100만 달러에 달하는 금전적 손실이 발생했다.
이러한 발전이 왜 실질적인 위험인가?
핵심적인 위험은 전문가들이 "기계 속도의 공격"이라고 묘사한 변화에 있다. 과거에는 취약점 발견 및 악용에 전문 인력과 긴 시간이 필요했지만, 이제 AI는 필요한 비용과 전문 지식을 엄청나게 줄여주어 소규모의 비전문적인 그룹도 고도의 능력을 갖출 수 있게 한다.
이러한 발전은 특히 정수장이나 병원과 같은 핵심 인프라를 운영하는 기관들이 매달 수행되는 전통적인 패치(Patching) 주기에 의존할 경우 패배할 수밖에 없는 경주에 놓이게 한다. 자동화된 공격자는 취약점이 나타나자마자 이를 악용할 수 있는 반면, 인간 방어자는 대응하는 데 며칠 또는 몇 주가 걸릴 수 있기 때문이다. 따라서 보고서는 자동화된 공격과 동일한 속도로 탐지 및 대응할 수 있는 자동화된 방어로의 신속한 전환이 필요하다고 강조한다.