실제 접근 권한을 보유한 독립적인 외부 기관의 검사를 통해 AI 모델의 안전성과 규정 준수 여부를 검증하는 것.
Anthropic이 비영리 단체 METR의 한 팀에 모델과 안전 관행을 평가할 수 있도록 확장된 내부 접근 권한을 제공하기 시작했다. METR은 평가 결과를 Anthropic의 게시 차단 권한 없이 공개하기로 했으며, 회사는 SecureBio, Accenture, Faculty와도 접근 권한과 독립성이 서로 다른 방식의 평가 협력을 진행하고 있다.
Anthropic의 CEO Dario Amodei는 인공지능 발전의 위험을 줄이기 위한 3단계 계획을 제시했다. 이 계획에는 독립적인 평가 기관의 참여와 기업 및 정부 간 더욱 폭넓은 조율이 포함된다. 이 제안은 후속 시스템을 개발하는 모델의 능력이 가속화되는 것과 지능형 에이전트가 사이버 또는 생물학적 공격에 악용될 수 있다는 우려에 기반한다.