اختبار النماذج بأساليب المحاكاة الهجومية لاكتشاف نقاط الضعف والمخاطر.
تختبر Circuit Breaker Labs نماذج الذكاء الاصطناعي عبر وكلاء يحاكون مستخدمين من أعمار وثقافات ولغات مختلفة، بهدف كشف التفاعلات التي قد تقود إلى أذى نفسي. وتستهدف الشركة حالياً تطبيقات التدريب والمذكرات والدعم النفسي المعتمدة على الذكاء الاصطناعي.
تتعاون Anthropic مع Accenture لإجراء تقييمات مستقلة واختبارات اختراق لنماذج الذكاء الاصطناعي المتقدمة من داخل الشركة، مع توقع استثمار مليار دولار على الأقل من كل طرف خلال خمس سنوات. وتكشف المبادرة عن نموذج جديد للرقابة، لكنه لا يزال يفتقر إلى معايير مستقرة للنفاذ والتمويل وإعداد التقارير.