قدرة الذكاء الاصطناعي على تحسين وتطوير نفسه وتدريب أجيال جديدة ذاتياً.
ألمحت شركة أنثروبيك في إفصاحاتها المحدثة لاكتتابها المرتقب إلى اقترابها من بلوغ مرحلة التحسين الذاتي العكسي للذكاء الاصطناعي، مما يثير تساؤلات حول سرعة التطور وضوابط الأمان.
طرح Dario Amodei، الرئيس التنفيذي لشركة Anthropic، خطة من ثلاث مراحل لتقليل مخاطر تطور الذكاء الاصطناعي، تشمل إشراك جهات تقييم مستقلة وتنسيقاً أوسع بين الشركات والحكومات. ويستند المقترح إلى مخاوف من تسارع قدرة النماذج على تطوير أنظمة لاحقة ومن إساءة استخدام الوكلاء الذكيين في الهجمات السيبرانية أو البيولوجية.
قالت OpenAI إنها حققت هدفها المعلن للوصول إلى مستوى «متدرب بحث آلي» قادر على تنفيذ مهام بحثية تستغرق من الباحث البشري أياماً، مع استمرار الإشراف البشري على القرارات الأساسية. وتظهر بيانات الشركة أن استخدام وكلاء البرمجة والبحث ارتفع بقوة، لكن المهام الأطول والأكثر تعقيداً ما زالت تتطلب تدخلاً بشرياً.