Anthropic은 2026년 11월 12일부터 시행되는 새로운 Claude 사용 정책을 발표했다. 이번 업데이트는 모델이 더 장기적이고 자율적인 작업을 수행할 수 있게 됨에 따라 기존 규칙을 어떻게 적용하는지 명확히 하는 데 중점을 둔다. 회사는 이번 정책이 지난 1년 동안 영향력 행사, 무기 개발 및 감시 활동에서 관찰한 오용 패턴에도 기반한다고 밝혔다.
기만적 캠페인을 위한 새로운 섹션
Anthropic은 가짜 계정, 조작된 뉴스 및 메시지의 배후 주체 은폐와 관련된 제한을 «기만적 캠페인 또는 부자연스러운 활동에 관여하지 않기»라는 독립된 섹션으로 통합했다. 이 섹션은 콘텐츠를 부풀리거나 출처를 숨기기 위해 가짜 계정 또는 게시물 네트워크를 만드는 데 Claude를 사용하는 것을 금지하며, 정치적이든 상업적이든 영향력 행사 캠페인을 운영하는 데 필요한 도구와 인프라 구축도 포함한다.
선거 관련 제한의 범위 설정
회사는 선거 섹션의 명칭을 «민주적 절차를 훼손하지 않기»로 변경하고, 유권자를 기만하거나 선거를 방해하는 사용 사례로 범위를 보다 명확히 한정했다. 여기에는 후보자 또는 투표 절차에 관한 허위 정보 유포, 후보자 또는 선거 관리 당국자의 사칭, 투표 참여를 낮추려는 시도가 포함된다.
반면 Anthropic은 유권자 및 캠페인을 대상으로 한 포괄적인 맞춤형 타기팅 금지를 삭제했다. 회사는 여러 언어로 유권자 정보를 작성하거나 선거 관리 당국자가 투표용지 수정을 위한 알림을 보내는 것과 같은 일부 합법적인 시민적 사용 사례는 더 이상 해당 일반 금지에 포함되지 않는다고 설명했다. 그러나 기만에 기반한 타기팅이나 개인정보 오용은 다른 섹션에 따라 여전히 금지된다.
무기, 감시 및 자율 이동 시스템
정책은 무기 개발 금지에 유도 및 제어 소프트웨어와 무기를 작동하게 하는 구성요소뿐 아니라 드론과 자율 운용 차량의 무장도 포함된다고 명시한다. Anthropic은 이러한 변경이 기존 규칙을 적용해 온 방식을 반영하는 것이며, 집행 관행의 전환은 아니라고 밝혔다.
새로운 문구는 또한 실시간 또는 과거에 수집된 데이터 분석을 통한 방식 모두에서 당사자의 동의 없이 사람을 추적하는 것을 금지하며, 법 집행 또는 형사 사법 절차에서 사람을 조사하거나 체포하거나 기소할지에 관한 결정을 내리거나 권고를 제공하기 위해 Claude를 사용하는 것을 금지한다. 감시 도구를 구축하거나 개선하는 것도 제한 대상에 포함된다. 사기 모니터링과 같이 개인이 동의한 사용 사례와 콘텐츠 관리, 저널리즘 및 법률 연구는 회사가 발표한 바에 따라 허용된 사용 사례에 계속 포함된다.
실제로 무엇이 바뀌는가?
Anthropic은 건강, 법적 권리, 재정, 생계 또는 필수 서비스 접근에 영향을 미치는 고위험 사용에 대한 요건을 변경하지 않았지만, 적용되는 사례를 직접적으로 규정하도록 문구를 다시 작성했다. 자격을 갖춘 사람이 Claude의 권고를 검토하고 필요할 때 수정할 권한을 보유해야 하며, 영향을 받는 사람에게 인공지능이 사용되었다는 사실을 알려야 한다.
정책은 Anthropic 모델을 자율적으로 물리적 행동을 수행할 수 있고 부상을 초래할 수 있는 장치와 연결하는 시스템에 대한 요건도 추가한다. 자격을 갖춘 운영자가 장비를 감시하고 중지할 수 있어야 하며, Claude와의 연결이 끊어지면 장비가 안전 상태로 전환되어야 한다.
추가 제한 및 행정적 설명
Anthropic은 자사 모델에 대한 지속적이고 불필요하게 가혹한 행동을 금지하는 조항을 추가했으며, 이를 극단적인 경우로 한정했다. 여기에는 일반적인 좌절감이나 모델의 답변에 대한 이의 제기, 어두운 창작 주제, 테스트 및 연구는 포함되지 않는다.
또한 지원 지역 정책을 명확히 하며, Claude는 지원되지 않는 지역에 실제로 있는 사람이나 그곳에 설립되었거나 본사가 위치한 법인, 또는 해당 지역의 사람이나 법인이 소유하거나 과반수 지배하는 법인이 사용할 수 없다고 밝혔다.
편집부 해설: 이번 업데이트의 핵심 가치는 모든 분야에서 새로운 제한을 발표하는 데 있다기보다, 모델 사용이 정치적 영향력 행사, 물리적 시스템 및 민감한 의사결정으로 확대됨에 따라 서로 흩어져 있던 규칙이나 기존 집행 관행을 더욱 구체적인 문구로 전환한 데 있다. 고객이 실제로 직면하는 과제는 개입할 수 있는 인간의 감독, 개인의 동의 및 모델 연결이 끊겼을 때의 안전 상태가 존재한다는 점을 어떻게 입증할 것인지다. 특히 텍스트 생성에서 벗어나 현실 세계에서 행동을 수행하는 애플리케이션에서는 더욱 그렇다.