Проверка моделей искусственного интеллекта независимыми внешними организациями, имеющими фактический доступ, для подтверждения безопасности и соответствия требованиям.
Anthropic начала предоставлять команде некоммерческой организации METR расширенный внутренний доступ для оценки своих моделей и практик безопасности, при этом METR обязуется публиковать результаты своих оценок без права компании блокировать публикацию. Компания также работает с SecureBio, Accenture и Faculty над механизмами оценки, предусматривающими разные уровни доступа и независимости.
Dario Amodei, генеральный директор Anthropic, предложил план из трёх этапов для снижения рисков развития искусственного интеллекта, предусматривающий привлечение независимых оценщиков и более широкую координацию между компаниями и правительствами. Предложение основано на опасениях по поводу ускорения способности моделей разрабатывать последующие системы, а также неправомерного использования интеллектуальных агентов в кибернетических или биологических атаках.