إخضاع نماذج الذكاء الاصطناعي لفحص جهات خارجية مستقلة تتمتع بصلاحيات وصول فعلية للتحقق من السلامة والامتثال.
بدأت Anthropic تزويد فريق من منظمة METR غير الربحية بوصول داخلي موسع لتقييم نماذجها وممارسات السلامة، مع التزام METR بنشر نتائج تقييماته دون حق للشركة في منع النشر. وتعمل الشركة أيضاً مع SecureBio وAccenture وFaculty على ترتيبات تقييم بدرجات مختلفة من الوصول والاستقلالية.
طرح Dario Amodei، الرئيس التنفيذي لشركة Anthropic، خطة من ثلاث مراحل لتقليل مخاطر تطور الذكاء الاصطناعي، تشمل إشراك جهات تقييم مستقلة وتنسيقاً أوسع بين الشركات والحكومات. ويستند المقترح إلى مخاوف من تسارع قدرة النماذج على تطوير أنظمة لاحقة ومن إساءة استخدام الوكلاء الذكيين في الهجمات السيبرانية أو البيولوجية.