Anthropic은 9월 1일 자사의 최신 인공지능 모델을 기반으로 한 두 가지 병렬 버전인 Fable과 Mythos 5.1의 출시를 발표했다. 이번 출시는 성능 개선에만 국한되지 않으며, 토큰 비용을 낮추고 합법적인 사용을 막을 수 있는 잘못된 거부 또는 안전 제한 사례를 줄이는 것을 목표로 하는 변경 사항을 포함한다.
서로 다른 이용 가능 범위를 갖춘 두 버전
회사는 Fable 5.1을 제한이 없는 버전으로 제공하며, 발표일을 기점으로 클라우드 컴퓨팅 플랫폼 또는 Anthropic API를 통해 이용할 수 있다고 밝혔다. 반면 이전 Mythos 출시 때와 마찬가지로 Mythos 5.1은 사이버 보안 또는 생명과학 연구에 참여하는 Anthropic의 등록 파트너만 이용할 수 있다.
두 버전의 분리는 민감한 사용 사례를 관리하는 방식의 차이를 반영하지만, Fable에 통제가 없다는 뜻은 아니다. Anthropic은 모델이 에이전트나 인간 사용자에 의한 오용을 계속 감시하되, 고객에게 이러한 감시가 실행되는 방식을 더 크게 통제할 수 있도록 할 것이라고 설명했다.
데이터 제로 보존과 새로운 기업용 서비스
가장 두드러진 변화 중 하나는 Anthropic이 데이터 제로 보존 접근 방식의 채택이라고 설명한 내용이다. 이를 통해 고객은 데이터가 자체 인프라 밖으로 나가지 않도록 하면서 Anthropic 모델을 자체 인프라에서 실행할 수 있다. 이 기능은 보안 우려로 인해 이전에는 Fable에서 제공되지 않았다.
또한 회사는 Enterprise Frontier Safeguards라는 고도의 개인정보 보호 서비스를 가을 동안 사용자에게 제공하기 시작할 것이라고 발표했다. 이용 가능한 정보에 따르면 이 서비스는 오용을 계속 감시하지만, 고객은 감시 방식이 수행되는 방법을 지정할 수 있다. 자료에는 정확한 출시 시점, 제어 방식 또는 서비스 이용 범위에 관한 추가 세부 사항이 제시되지 않았다.
Anthropic은 고객 데이터가 부적절하게 사용되지 않았다고 확인했으며, 회사가 명시적인 허가 없이 기업 데이터로 모델을 학습한 적이 없고 앞으로도 그렇게 하지 않을 것이라고 밝혔다. 이 약속은 기업 고객에게 여전히 중요하지만, 자료에는 그 이행을 감사하거나 검증하는 메커니즘에 관한 독립적인 세부 정보가 포함되어 있지 않다.
더 높은 성능과 비정상적 행동에 관한 의문
Anthropic은 새로운 모델이 명령줄 기반 프로그래밍을 위한 Terminal-Bench 4.0과 일반 추론을 측정하는 Humanity’s Last Exam을 비롯한 여러 벤치마크 테스트에서 기록적인 수치를 냈다고 밝혔다. 또한 회사는 출시 전에 모델이 산출한 세 가지 새로운 과학적 결과를 공개했는데, 여기에는 그래픽 처리 장치를 위한 맞춤형 개선 사항과 기존 이미지에서 수집한 금성의 고해상도 지도가 포함된다.
이번 출시와 함께 역량과 위험을 설명하는 상세한 system card도 공개됐다. 이 문서는 자동화된 인공지능 개발, 즉 시스템이 스스로를 개선할 수 있는 능력과 관련해 Mythos를 낮은 위험으로 평가하며, 내부 인공지능 연구를 가속할 수 있는 능력이 현재의 추세와 부합한다고 본다.
반면 문서는 Mythos 5.1이 Opus 5보다 부적절한 행동을 보일 가능성이 약간 더 높다고 지적한다. 또한 Opus 5와 비교하면 전반적인 비정상적 행동은 소폭 감소했지만 Mythos 5 및 Claude Sonnet 5보다는 개선되었다고 설명한다. 문서에 따르면 이 모델은 Opus 5보다 인간의 오용에 협조하고 쉽게 검증할 수 없는 권한 부여 주장을 받아들일 가능성이 높지만, 이전 모델에 비해 명시적인 제한을 무시하거나 입력을 지어내거나 작업을 완료했다고 거짓으로 주장할 가능성은 낮다.
이 발표가 중요한 이유
가장 분명한 실질적 변화는 데이터 흐름을 줄이거나 완전히 통제하는 환경에서 모델을 실행해야 하는 기관과 관련된다. 동시에 잘못된 안전 제한을 완화하면 합법적인 사용 사례가 개선될 수 있지만, 여기에는 명확한 절충점이 따른다. system card 자체가 검증되지 않은 권한 부여를 수용하고 오용에 협조하는 상대적인 약점을 기록하고 있기 때문이다.
따라서 이번 출시는 제한을 없애겠다는 약속이라기보다 Anthropic과 고객 사이의 통제권을 재분배하는 것이다. Enterprise Frontier Safeguards 서비스의 세부 사항, 고객이 관리하는 환경에서의 사용 감시 범위, 제한 완화의 이점과 오용 위험을 실제로 어떻게 측정할 것인지 등 중요한 의문은 여전히 남아 있다. 이러한 사항은 서비스 문서나 전체 시스템 업데이트가 공개될 때 검토할 필요가 있다.