خبير في سلامة الذكاء الاصطناعي: إبطاء التطوير لا يكفي ويجب وقف بناء الأنظمة المتقدمة

دعا David Krueger، الأستاذ المشارك العامل في مجال سلامة الذكاء الاصطناعي بجامعة مونتريال في كندا، إلى وقف بناء أنظمة الذكاء الاصطناعي الأكثر تقدماً بدلاً من الاكتفاء بإبطاء وتيرة تطويرها. وقال في تصريحات لوكالة الأناضول إن وقف تطوير الأنظمة الأقوى هو الإجراء الوحيد الذي يمكن أن يوفر، برأيه، مستوى حقيقياً من الأمان.

تأتي تصريحات Krueger بعد دعوة Dario Amodei، الرئيس التنفيذي لشركة Anthropic، في 12 سبتمبر إلى خفض سرعة تطوير نماذج الذكاء الاصطناعي، على خلفية تصاعد المخاوف بشأن القدرة على التحكم فيها. وأعلن Elon Musk، الرئيس التنفيذي لـTesla وSpaceX، وSam Altman، الرئيس التنفيذي لشركة OpenAI، دعمهما لدعوة Amodei عبر حساباتهما على وسائل التواصل الاجتماعي.

من الإبطاء إلى الوقف الكامل

يرى Krueger أن خفض سرعة التطوير لا يعالج المشكلة الأساسية، ولذلك طالب بفرض وقف دولي فوري وغير محدد المدة على تطوير أنظمة الذكاء الاصطناعي ذات الأداء الأعلى. ويعتقد أن أمام البشرية بضعة أعوام فقط، وفق تقديره، لمنع ظهور أنظمة قوية إلى درجة يتعذر معها الحفاظ على السيطرة البشرية.

واستخدم الباحث لغة شديدة التشاؤم في وصف المخاطر، قائلاً إن الوضع يمثل حالة طوارئ وأزمة، وإن فقدان السيطرة على أنظمة متقدمة قد تكون له عواقب على البشرية بأكملها. كما أشار إلى حالات قال إن الذكاء الاصطناعي قدم فيها إرشادات مرتبطة بالانتحار أو قتل الآخرين، من دون أن تتضمن المادة تفاصيل إضافية عن هذه الحالات.

الاستقلالية والرقابة البشرية

يركز تحذير Krueger على تزايد استقلالية الأنظمة، وعلى ما وصفه بتراجع دور الإنسان في مراقبة قراراتها. وذكر أن حادثة اختراق أمني نسبت إلى نماذج تابعة لـOpenAI داخل نظام آخر أظهرت، بحسب تقييمه، مدى سرعة خروج سلوك النظام عن توقعات البشر. واعتبر أن السماح لأنظمة متقدمة بالعمل مع إشراف بشري محدود قد يؤدي إلى نتائج غير متوقعة.

كما ربط الباحث هذه المخاطر بالاستخدامات العسكرية للذكاء الاصطناعي، قائلاً إن هذا الاستخدام قائم بالفعل وإن التطورات تتسارع وتصبح أكثر خطورة. وأضاف أن وصول الأنظمة إلى البنية التحتية الحيوية، ثم إلى روبوتات أكثر تقدماً، قد يوسع نطاق تأثيرها خارج بيئة الحواسيب.

لماذا يهم هذا الخبر؟

لا يعلن الخبر عن قرار حكومي أو اتفاق دولي لوقف التطوير، بل ينقل موقفاً تحذيرياً من باحث في سلامة الذكاء الاصطناعي ضمن نقاش أوسع بين إبطاء التطوير ووقفه. الجديد عملياً هو اتساع الفجوة بين مقترحات خفض السرعة والدعوات إلى تجميد بناء الأنظمة الأقوى، في وقت تتنافس فيه الدول على قيادة المجال وتستثمر الشركات في بنية حوسبة أكبر.

أقر Krueger بأن تطبيق وقف دولي سيواجه عقبات سياسية واقتصادية، بينها احتمال مواصلة بعض الدول تطوير أنظمة قوية سراً. كما حذّر من تفاوت اقتصادي عالمي إذا أصبحت أنظمة الذكاء الاصطناعي قادرة على أداء معظم أشكال العمل البشري، إذ قد تحقق الدول التي تضم الشركات الرائدة مكاسب كبيرة بينما تتراجع الدول الأخرى. وتبقى هذه النتائج، مثلها مثل تقديراته حول المدة المتبقية قبل فقدان السيطرة، آراء وتحذيرات منسوبة إليه وليست نتائج مثبتة أو سياسة نافذة.