Yapay zekâ modellerinin güvenlik ve uyumluluğunu doğrulamak amacıyla, gerçek erişim yetkilerine sahip bağımsız dış kuruluşlar tarafından incelenmesi.
Anthropic, kâr amacı gütmeyen METR kuruluşundan bir ekibe modellerini ve güvenlik uygulamalarını değerlendirmesi için genişletilmiş kurum içi erişim sağlamaya başladı. METR, değerlendirmelerinin sonuçlarını şirketin yayımlamayı engelleme hakkı olmadan yayımlamayı taahhüt ediyor. Şirket ayrıca SecureBio, Accenture ve Faculty ile farklı erişim ve bağımsızlık düzeylerine sahip değerlendirme düzenlemeleri üzerinde çalışıyor.
Anthropic CEO’su Dario Amodei, yapay zekânın gelişiminden kaynaklanan riskleri azaltmak için bağımsız değerlendirme kuruluşlarının sürece dâhil edilmesini ve şirketler ile hükümetler arasında daha geniş koordinasyon kurulmasını içeren üç aşamalı bir plan sundu. Öneri, modellerin sonraki sistemleri geliştirme kapasitesinin hızlanması ve akıllı ajanların siber ya da biyolojik saldırılarda kötüye kullanılması yönündeki endişelere dayanıyor.