أنظمة ذكاء اصطناعي ذات أداء متقدم وقدرات قد تتجاوز توقعات البشر أو يصعب الحفاظ على السيطرة عليها.
حذّر David Krueger، الباحث في سلامة الذكاء الاصطناعي بجامعة مونتريال، من أن خفض سرعة تطوير النماذج لن يكون كافياً، ودعا إلى وقف دولي وفوري وغير محدد المدة لبناء الأنظمة الأقوى. وتأتي دعوته بعد مطالبة Dario Amodei الشركات بإبطاء التطوير، وتأييد Elon Musk وSam Altman لها.