인공지능은 더 이상 사이버 공격에서 주변적인 도구가 아니다. Google Threat Intelligence Group이 2026년 5월 발표한 보고서에 따르면 생성형 인공지능은 공격자들의 업무 흐름에 산업적 규모로 통합되고 있으며, 그 사용은 이제 공격의 거의 모든 단계에서 나타난다. ITmedia AI Plus가 보도한 내용에 따르면 이 그룹은 사상 처음으로 인공지능의 도움을 받아 개발된 제로데이 취약점 익스플로잇을 사용하려는 위협 행위자를 포착했다.
이 취약점은 오픈 소스 웹 관리 도구를 표적으로 삼으려는 시도에 사용됐으며, 이중 인증 우회로 이어졌다. 더 중요한 점은 이 취약점이 메모리 손상과 같은 전통적인 구현 오류가 아니라 애플리케이션 설계의 고도화된 논리적 결함에서 비롯됐다는 것이다. 이는 맥락을 읽고 추론할 수 있는 대규모 언어 모델이 기존 취약점 검사 도구가 발견하지 못했던 논리적 오류를 찾아내는 데 도움을 줄 수 있음을 시사한다.
문제는 인공지능 자체뿐 아니라 인공지능에 쉽게 접근할 수 있다는 점이다
이 기사에 따르면 관찰된 공격은 주로 탈취되거나 악용된 폐쇄형 모델의 상업용 계정에 의존했다. 하지만 오픈 웨이트 모델의 확산은 다른 측면에서 상황을 바꾸고 있다. 모델의 웨이트를 내려받고 나면 개발 기관의 감시를 덜 받으면서 사용할 수 있고, 배포자가 이를 회수하거나 사후 통제를 적용하기도 어려워진다.
Accenture Japan의 사이버 보안 사업 책임자인 다이스케 후지는 폐쇄형 모델과 오픈 웨이트 모델의 본질적인 차이가 개발자가 사용을 통제할 수 있는 정도에 있다고 설명했다. 폐쇄형 모델은 일반적으로 안전장치, 계정 기록, 이용 약관, 활동 모니터링을 결합한다. 반면 오픈 웨이트 모델은 유해한 행동을 거부하려는 성향을 약화하도록 수정하거나 재훈련할 수 있으며, 여기에는 ‘검열되지 않은’ 버전으로 묘사되는 모델의 제작도 포함된다.
공격자에게 최고의 모델이 필요한 것은 아니다. 후지에 따르면 Anthropic과 OpenAI의 폐쇄형 모델보다 성능이 낮은 모델도 많은 취약점을 찾아낼 수 있다. 수십 년 동안 발견되지 않은 심층적인 취약점을 찾으려면 더 고도화된 모델이 필요할 수 있지만, 돈을 노리는 범죄자들은 일반적으로 빠르고 낮은 비용으로 공격할 수 있는 대상을 선호한다.
기관에는 실질적으로 무엇이 달라지는가?
이러한 발전이 공격이 즉시 기계가 완전히 자율적으로 운영하는 작업으로 바뀐다는 뜻은 아니다. 후지는 현재 주된 사용 방식이 여전히 인간을 지원하는 것이라고 본다. 고도화된 모델을 대규모로 실행하려면 제한적이고 비용이 많이 드는 그래픽 처리 장치와 서버 자원이 필요하기 때문이다. 현재 가장 현실적인 사용 사례는 정찰의 가속이다. 잠재적인 웹사이트의 위치를 파악하고, 대규모 대상 집합을 검사하며, 신속하게 공격할 수 있는 시스템을 찾아내는 것이다.
그러나 정찰 비용의 하락은 표적 목록을 확대할 수 있다. 자동으로 정보를 수집할 수 있다면 이전에는 경제성이 없어 보였던 시스템도 공격 대상이 될 수 있다. 여기에는 금융 및 암호화폐 부문과 인공지능 기업 자체가 포함된다. GTIG 보고서는 인공지능이 동시에 고도화된 공격의 동력이자 고가치 표적이 됐다고 지적한다. 인공지능 소프트웨어 공급망에 대한 공격이 관찰됐으며, 여기에는 인공지능 에이전트용 맞춤형 스킬 패키지에 악성 코드를 심는 행위와 여러 대규모 언어 모델을 연결하는 게이트웨이를 침해하는 행위가 포함된다.
방어는 침해 성공을 가정하는 것에서 시작된다
이 기사에서 도출되는 가장 중요한 실무적 결론은 모든 공격을 막는 것이 더 이상 보호 계획을 세우는 현실적인 기반이 아니라는 점이다. 후지는 침해 이후의 피해를 줄이는 조치를 취할 것을 권고한다. 예를 들어 사업 연속성 계획을 수립하고, 데이터 백업을 보관하며, 마이크로세그멘테이션을 사용해 네트워크를 더 작은 영역으로 나누는 방식이다. 이러한 조치는 모든 침해를 막지는 못하지만 공격자의 확산을 제한하고 운영 복구를 앞당기는 것을 목표로 하며, 랜섬웨어에 대응할 때 잘 알려진 원칙이다.
공개적으로 노출되는 정보의 양을 줄이는 일도 더욱 중요해진다. 모델은 공개 행사에서 발표된 기술이나 웹페이지 소스 코드의 세부 정보처럼 작은 신호를 수집한 뒤 조직의 환경에 관한 가설을 조합할 수 있다. 후지는 공격자의 추론을 혼란스럽게 만들기 위해 허위 정보를 제공하는 방어적 기만을 가능한 선택지 중 하나로 제시한다.
패치 부채를 관리하고 인공지능을 신중하게 사용하기
이 기사는 ‘패치 부채’ 문제도 지적한다. 이는 업데이트를 테스트하고 절차를 마련하며 적용 후 검증하기가 어려워 처리되지 않은 취약점이 축적되는 현상이다. 후지는 일본 기업들이 패치 설치 전후에 필요한 절차와 시스템의 복잡성 및 소요 시간 때문에 특히 영향을 받을 수 있다고 말한다. 그가 언급한 방향 중에는 클라우드로 이전해 패치가 필요한 시스템의 범위를 줄이고, 인공지능을 사용해 테스트와 검증을 가속하는 방법이 있다.
그러나 방어를 위해 인공지능을 사용하는 데에는 반대편의 위험도 따른다. 조직이 소스 코드나 환경 데이터를 공급업체에 전송한 뒤 해당 공급업체가 공격을 받으면, 보호 도구가 공격자를 위한 정보원이 될 수 있다. 따라서 인공지능 기반 취약점 검사 환경을 구축하기 전에 데이터가 어디에 저장되는지, 그리고 학습에 사용되는지를 확인해야 한다. 이 기사에 따르면 도구를 조직의 통제 아래 두는 소버린 인공지능에 대한 관심이 Accenture 고객 사이에서 높아지고 있다.
certi.news의 편집적 해석은 다음과 같다. 실제 변화는 완전히 자율적인 공격이 등장했다는 것이 아니라, 공격 가능한 표적과 취약점을 찾는 비용이 낮아졌다는 점이다. 이는 사전 검증과 침투 테스트, 레드팀 훈련과 함께 운영 회복력과 노출된 정보의 공격 표면을 줄이는 일의 가치를 높인다. 이 출처는 방어자가 자신들의 환경을 더 폭넓게 알고 있다는 중요한 이점을 갖고 있다고 강조한다. 그러나 이 이점을 얼마나 활용할 수 있을지는 데이터의 품질, 정보 공유 통제, 그리고 공격자보다 먼저 발견한 문제를 처리할 수 있는 기관의 역량에 달려 있다.