Submeter modelos de inteligência artificial à análise de entidades externas independentes com acesso efetivo para verificar a segurança e a conformidade.
A Anthropic começou a fornecer a uma equipe da organização sem fins lucrativos METR acesso interno ampliado para avaliar seus modelos e práticas de segurança, com o compromisso da METR de publicar os resultados de suas avaliações sem que a empresa tenha o direito de impedir a publicação. A empresa também trabalha com a SecureBio, a Accenture e a Faculty em acordos de avaliação com diferentes níveis de acesso e independência.
Dario Amodei, CEO da Anthropic, apresentou um plano de três etapas para reduzir os riscos do desenvolvimento da inteligência artificial, incluindo o envolvimento de entidades de avaliação independentes e uma coordenação mais ampla entre empresas e governos. A proposta baseia-se em preocupações com a aceleração da capacidade dos modelos de desenvolver sistemas subsequentes e com o uso indevido de agentes inteligentes em ataques cibernéticos ou biológicos.