Someter los modelos de inteligencia artificial al escrutinio de entidades externas independientes con acceso real para verificar la seguridad y el cumplimiento.
Anthropic ha comenzado a proporcionar a un equipo de la organización sin ánimo de lucro METR un acceso interno ampliado para evaluar sus modelos y prácticas de seguridad, con el compromiso de METR de publicar los resultados de sus evaluaciones sin que la empresa tenga derecho a impedir su publicación. La empresa también trabaja con SecureBio, Accenture y Faculty en acuerdos de evaluación con distintos grados de acceso e independencia.
Dario Amodei, director ejecutivo de Anthropic, planteó un plan de tres etapas para reducir los riesgos del desarrollo de la inteligencia artificial, que incluye la participación de entidades de evaluación independientes y una coordinación más amplia entre empresas y gobiernos. La propuesta se basa en la preocupación por la aceleración de la capacidad de los modelos para desarrollar sistemas posteriores y por el uso indebido de agentes inteligentes en ataques cibernéticos o biológicos.