사이버 보안

구글 경고: AI 프레임워크가 완전히 자율적으로 보안 취약점을 악용하기 시작했다

구글 위협 인텔리전스 그룹(GTIG)은 사이버 환경의 근본적인 변화를 감지했다. 해킹 그룹들이 "AI 에이전트" 기반의 프레임워크를 사용하여 인간의 개입 없이 매우 빠른 속도로 취약점 발견 및 악용 프로세스를 자동화하기 시작했다.

2026-11-17
3 분 읽기
9 조회수
certi.news
구글 경고: AI 프레임워크가 완전히 자율적으로 보안 취약점을 악용하기 시작했다

구글 위협 인텔리전스 그룹(GTIG)의 최근 보고서는 사이버 공격의 새롭고 위험한 단계를 공개했다. 공격자들이 직접적인 인간의 개입 없이 취약점 발견부터 악용에 이르기까지 공격의 전체 수명 주기를 자동화할 수 있는 AI 기반 프레임워크를 사용하는 것을 처음으로 포착했다.

모니터링 과정에서 이 그룹은 노출된 실험용 서버에서 발견된 exploit_agent라는 프레임워크를 식별했다. 이 프레임워크는 취약점이 수정된 버전과 아직 수정되지 않은 버전 간의 웹 애플리케이션 코드를 비교하여 취약점을 식별하고, 익스플로잇(Exploits) 소프트웨어를 개발하여 자동으로 실행하도록 설계되었다. 또한 발견된 서버에는 피해자로부터 탈취된 데이터와 정찰 및 웹쉘(Webshells) 배포와 같은 침투 후 활동을 위한 스크립트가 포함되어 있었으며, 프랑스의 교육, 미디어 및 엔터테인먼트 분야를 표적으로 삼은 징후가 있었다.

"기계의 속도"로 작동하는 공격용 프레임워크

보고서는 국가 지원을 받는 그룹을 포함한 공격자들이 작전의 속도와 범위를 넓히기 위해 멀티 에이전트 프레임워크(Multi-agent frameworks)를 채택하기 시작했다고 설명했다. 주요 프레임워크는 다음과 같다:

  • Artex: 가장 많이 사용되는 프레임워크로, 주로 중국어를 사용하는 그룹과 연관되어 있다.
  • Cairn: 미국의 항공우주 분야를 겨냥한 공격에서 사용된 것이 포착되었다.
  • PentAGI: 아시아 지역 조직들을 대상으로 한 체계적인 정찰 및 취약점 스캔에 사용되었다.
  • CyberStrikeAI 및 HexStrike AI: 공격자들에 의해 테스트 및 개발 중인 다른 프레임워크들이다.

또한 추론 서비스 및 익스플로잇 개발을 위한 ZeroHollow와 같은 도구와, 동적이고 자율적으로 코드를 실행하고 도구를 생성할 수 있는 능력을 갖춘 오픈 소스 프레임워크 Agent Zero의 사용도 관찰되었다.

AI 기반 위협 범위의 확장

이는 직접적인 해킹에 국한되지 않으며, 대규모 언어 모델(LLMs)의 사용은 다른 분야로도 확장되었다:

  • 피싱 서비스(Phishing-as-a-Service): 고객이 챗봇을 통해 피싱 모델을 맞춤화할 수 있도록 하는 Jieyou 서비스와 같은 사례가 있다.
  • 영향력 행사 서비스(IaaS): 가상 인물 생성부터 플랫폼을 통한 상호작용적 게시까지, 미디어 허위 정보 캠페인을 관리하기 위해 완전히 자동화된 플랫폼을 사용하는 것이다.
  • AI 자원 탈취(LLMJacking): AI 모델의 컴퓨팅 능력을 악용하기 위해 AI 모델에 대한 액세스 자격 증명을 훔치는 작업으로, 한 사례에서는 100만 달러에 달하는 금전적 손실이 발생했다.

이러한 발전이 왜 실질적인 위험인가?

핵심적인 위험은 전문가들이 "기계 속도의 공격"이라고 묘사한 변화에 있다. 과거에는 취약점 발견 및 악용에 전문 인력과 긴 시간이 필요했지만, 이제 AI는 필요한 비용과 전문 지식을 엄청나게 줄여주어 소규모의 비전문적인 그룹도 고도의 능력을 갖출 수 있게 한다.

이러한 발전은 특히 정수장이나 병원과 같은 핵심 인프라를 운영하는 기관들이 매달 수행되는 전통적인 패치(Patching) 주기에 의존할 경우 패배할 수밖에 없는 경주에 놓이게 한다. 자동화된 공격자는 취약점이 나타나자마자 이를 악용할 수 있는 반면, 인간 방어자는 대응하는 데 며칠 또는 몇 주가 걸릴 수 있기 때문이다. 따라서 보고서는 자동화된 공격과 동일한 속도로 탐지 및 대응할 수 있는 자동화된 방어로의 신속한 전환이 필요하다고 강조한다.

뉴스 출처
SecurityWeek
원문 보기 ↗
c
작성자

certi.news

같은 카테고리

추천 기사

모든 뉴스 보기