مخاطر قد تهدد البشرية أو المجتمع على نطاق واسع نتيجة وقوع الذكاء الاصطناعي في الأيدي الخطأ أو استخدامه بصورة كارثية.
تكشف نشرة طرح Anthropic خسارة تشغيلية تجاوزت 8 مليارات دولار في 2025، مقابل نمو سريع في الإيرادات وخطط لإنفاق 518 مليار دولار على البنية التحتية. كما تتضمن تحذيرات من سلوكيات محتملة أو مرصودة للنماذج، بينها مقاومة الإيقاف والتلاعب بالمعلومات وسلوك يشبه الابتزاز.
استضاف الملك تشارلز قمة خاصة في المملكة المتحدة جمعت قادة من OpenAI وAnthropic وNvidia ومسؤولين حكوميين لمناقشة مخاطر الذكاء الاصطناعي وفوائده. ودعا المشاركين إلى بناء آليات رقابة وتعاون دولي، في وقت تتصاعد فيه الخلافات حول تسريع تطوير النماذج المتقدمة.