Anthropic은 Claude Haiku, Sonnet, Opus, Claude Code를 포함한 자사 모델이 재래식 무기와 관련된 소프트웨어 개발부터 첩보, 사기, 정치적 영향력 행사 작전에 이르기까지 다양한 악용 활동에 사용된 사례를 조사한 보고서를 공개했다. 보고서는 2025년 12월부터 2026년 8월까지를 다루며, 국가와 연관된 것으로 의심되는 세력, 금전적 이익을 추구하는 범죄자, 정부 선전 기관이 연루됐다고 밝혔다.
무기 프로그램에 사용된 Claude
Anthropic은 위협 인텔리전스 팀이 Claude를 무기 설계 소프트웨어 개발이나 무기 프로그램과 관련된 정보 수집 및 공급망 지원에 사용한 여러 세력을 조사했다고 밝혔다. 회사는 이들 세력 중 3곳은 중국에, 2곳은 러시아에, 1곳은 예멘에 있었다고 전했다.
예멘 북부에서 활동하는 한 집단과 관련된 사례에서 회사는 유도 미사일과 기타 미사일을 포함한 3개 무기 개발 프로그램에서 Claude Code가 사용된 사실을 확인했다. 사용 내역에는 유도·항법·균형 제어 소프트웨어 개발, 시뮬레이션 및 시험 수행이 포함됐지만, 보고서는 해당 집단이 실제 운용 가능한 무기를 개발하는 데 성공했다는 증거는 찾지 못했다고 밝혔다. Anthropic은 또한 관련 계정을 비활성화하고 수집한 정보를 공공 및 민간 부문의 기관들과 공유했다고 전했다.
또 다른 사례에서는 중국에 기반을 둔 한 주체가 Claude를 사용해 어뢰 대응 체계의 발사 통제 소프트웨어 일부를 개발하고 시험 계획을 수립했으며, 해당 체계를 미국의 대어뢰 및 대잠수함 방어 소프트웨어와 비교했다. 회사는 이 활동이 중국 방위산업 부문의 제조업체와 관련된 것으로 평가했다.
첩보에서 감시와 영향력 행사까지
보고서에는 주로 우크라이나와 유럽 정부의 군사정보기관을 겨냥한 러시아의 첩보 작전 사례와, 중국에 거주하는 것으로 추정되는 세력에 의해 수행된 중동·유럽·동남아시아 정부 네트워크 정찰 시도가 포함됐다. Anthropic은 또한 Claude가 금전적 동기에 따른 갈취 공격과 사이버 범죄에 사용된 사실을 확인했다.
2026년 6월, 회사는 이란과 걸프 지역의 소셜미디어 사용자 활동을 감시·분석·분류하는 플랫폼을 Claude를 사용해 만든 계정을 차단했다. 조사 결과 해당 계정은 S2T Unlocking Cyberspace라는 기관이 운영했거나 이 기관을 위해 운영한 것으로 나타났으며, 오픈소스 연구에서는 이 기관이 이스라엘·싱가포르 정보 제공업체와 연관된 것으로 나타났다. 보고서는 또한 중국의 한 도구가 여론을 감시하고 정부 브리핑을 작성하면서 반체제 인사, 활동가, 소수민족, 중국계 디아스포라, 외국 언론을 정치적 안정에 대한 위협으로 분류한 사례를 확인했다.
모델 모방과 합성 콘텐츠 네트워크
Anthropic은 한 중국 애플리케이션 스튜디오가 Claude의 도움을 받아 20개가 넘는 데이팅 애플리케이션으로 구성된 네트워크를 만들었으며, 4,700명이 넘는 AI 캐릭터가 2주 동안 최소 25,000명과 대화했다고 밝혔다. 회사는 또한 지금까지 확인한 것 중 최대 규모의 불법 증류 공격이라고 표현한 사례를 기록했다. 이 사례에서 Alibaba와 연관된 세력은 3,500개가 넘는 가짜 계정을 사용해 매일 약 300만 건의 작업을 수행하며 허가 없이 자사 모델의 기능을 복제하려 했다.
회사는 또한 조사에 따르면 Moonshot AI와 DeepSeek이 사용자에게 알리지 않고 사용자 요청을 Claude로 전달했으며, Xiaomi MiMo 모델 사용자들의 대화도 보고서가 불법 증류 활동으로 묘사한 과정에서 Claude로 전달됐다고 밝혔다.
이 소식이 중요한 이유
이 사례들은 위험이 유해한 텍스트 생성에만 국한되지 않고, 모델이 소프트웨어와 시험, 정보 작전, 선전 인프라에 통합되는 것까지 포함한다는 점을 보여준다. 동시에 이 보고서는 Anthropic의 조사와 결과를 제시한 것이며, 각 사례에 대한 독립적인 평가가 아니다. 또한 일부 사실은 실제 무기를 생산했다는 점이 입증되지 않은 사용 사례와 관련되어 있다. 따라서 기업의 주장을 검증하는 메커니즘, 공개되지 않은 사용을 탐지할 수 있는 기업의 능력에 대한 한계, 공공 및 민간 기관과의 정보 공유를 조정하는 방식에 관한 의문은 여전히 남아 있다.