구글 사이버 위협 그룹(GTIG)은 악의적인 행위자들이 에이전트 기반 워크플로우(Agentic Workflows)와 인공지능 기반 공격 프레임워크를 점차 더 많이 의존하여 보안 취약점 발견 및 악용 프로세스를 자동화하고 있으며, 이로 인해 공격 속도가 기계 수준으로 빨라지고 있다고 경고했습니다.
구글 보고서에 따르면, 사이버 공격에서 인공지능의 초기 실험적 사용은 이제 국가 배후의 해킹 그룹과 금전적 동기를 가진 조직들에 의한 광범위한 채택으로 전환되었습니다. 가장 대표적인 문서화된 사례로는 미국 항공 부문을 겨냥한 공격에서 CAIRN이라는 오픈소스 침투 테스트 프레임워크가 사용된 것과, 북한과 연계된 해커들이 악성코드를 배포하는 데 Claude Code 도구를 사용했을 것으로 의심되는 사례가 있습니다.
완전한 자율성으로의 전환 전망
보안 연구에 따르면 악의적인 행위자들은 향후 3개월 내에 인적 개입이 거의 또는 전혀 필요 없고 주로 다중 AI 에이전트에 의존하는 단순한 공격을 감행할 수 있게 될 것으로 예상됩니다. 더욱 위험한 것은 올해 하반기 동안 완전히 자율적이고 고도로 발전된 자동화 공격이 등장할 것이라는 전망입니다.
이는 연방수사국(FBI)이 여러 악의적인 행위자들이 지난 8월부터 ARTEX 침투 테스트 프레임워크를 무기화하여 정부, 국방, 금융, 기술, 의료 부문의 기관들을 겨냥한 공격을 감행했다고 발표한 이전 경고와 일치합니다.
오픈소스 프레임워크 악용
구글은 공격자들이 대형 언어 모델이 쉽게 익스플로잇을 구축할 수 있는, 인터넷에 노출되어 있고 취약점 복잡도가 낮은 엔드포인트를 상대로 적응형 공격을 실행하기 위해 ARTEX, CAIRN, CyberStrikeAI, HexStrike AI와 같은 오픈소스 침투 테스트 프레임워크를 지속적으로 악용하고 있다고 설명했습니다.
구글의 AI 위협 추적 보고서에 포함된 주목할 만한 사례 중 하나에서, 해커들은 미디어, 엔터테인먼트, 교육 부문에서 활동하는 프랑스 웹사이트들을 대상으로 인간의 개입 없이 취약점 검색 및 악용 프로세스를 완전히 자동화하기 위해 exploit_agent라는 다중 에이전트 시스템을 사용했습니다.
이러한 발전이 실제로 바꾸는 것은 무엇인가?
이러한 기술적 변화는 방어 및 사이버 보안 팀에게 엄청난 압박을 가하고 있습니다. 이러한 공격 프레임워크의 배포는 방어자들이 시스템에 패치를 적용할 수 있는 가용 시간을 극적으로 단축시켰을 뿐만 아니라, PHP2Shell 취약점의 경우처럼 인공지능이 생성한 수백 개의 개념 증명(PoC) 익스플로잇을 생성하여 시스템 보호 팀의 검증 및 강화 부담을 배가시켰습니다.