تحذيرات من مخاطر الذكاء الاصطناعي الفائق تدفع نحو تنظيم دولي

تصاعد الجدل السياسي والعلمي حول مخاطر «الذكاء الاصطناعي الفائق» (ASI) بعد جلسة عُقدت في البرلمان البريطاني، حذر خلالها مسؤولون وباحثون من احتمال وصول هذه الأنظمة إلى مستوى من القدرات يصعب على البشر السيطرة عليه. وذهب ديس براون، وزير الدفاع البريطاني الأسبق، إلى أن التهديد المحتمل قد يوازي خطر الحرب النووية، وربما يتجاوزه.

وشارك في الجلسة تحالف Control AI، الذي يدعو إلى وضع قواعد دولية للذكاء الاصطناعي ويدعم مشروع قانون يناقشه البرلمان البريطاني لحظر تطوير الذكاء الاصطناعي الفائق. وحذر ستيوارت راسل، عالم الحاسوب في جامعة كاليفورنيا في بيركلي، من احتمال وقوع كارثة واسعة النطاق، ومن سيناريو تفقد فيه البشرية السيطرة على أنظمة الذكاء الاصطناعي بصورة لا رجعة فيها.

تقديرات متباينة لحجم الخطر

أثار إيفان هوبينغر، المسؤول عن أبحاث المواءمة في شركة Anthropic، جدلًا بعدما قال إن هناك احتمالًا يتجاوز 10% لأن تؤدي هذه التكنولوجيا إلى قتل جميع البشر خلال العقد المقبل. ولا يمثل هذا الرقم نتيجة متفقًا عليها بين الخبراء، بل تقديرًا منسوبًا إلى هوبينغر ضمن نقاش أوسع حول المخاطر المستقبلية.

وتزامن ذلك مع استقالة جاكوب كوكسون، البالغ 28 عامًا، من Anthropic، بعد عمله سابقًا في OpenAI. وقال كوكسون إن الشركتين لا تتصرفان بمسؤولية وإنهما عالقتان في سباق للوصول إلى الذكاء الاصطناعي الفائق أولًا، لكنه أبدى أملًا في إمكانية تنسيق المختبرات الأمريكية الكبرى لإبطاء هذا السباق. ولا يوجد اتفاق بين الخبراء بشأن موعد ظهور هذه القدرات؛ فبعضهم يتحدث عن سنوات قليلة، بينما يتوقع آخرون أكثر من عقد.

من التحذير إلى قواعد دولية

دعا النائب العمالي دارين جونز إلى «معاهدة متعددة الأطراف للتطوير المنظم والآمن للذكاء الفائق»، مؤكدًا أن الهدف، وفق طرحه، ليس وقف البحث والابتكار بل إعطاء السلامة أولوية مع تسارع التطور. كما أبدت الحكومة البريطانية مخاوف من عدم تقديم Anthropic نموذجها الأحدث Mythos 5.1 إلى معهد أمن الذكاء الاصطناعي البريطاني لاختبارات ما قبل الإطلاق. وقال مكتب مجلس الوزراء إن عددًا محدودًا من المؤسسات الأمريكية حصل على الوصول إلى النموذج، مع استمرار التعاون بين المعهد والشركات.

وفي الولايات المتحدة، دعا السيناتور بيرني ساندرز الكونغرس إلى التحرك، مستندًا إلى استطلاع قال إن 81% من الأمريكيين يرون ضرورة اتخاذ السياسيين إجراءات بشأن الذكاء الاصطناعي. ويربط ساندرز النقاش بمستقبل الاقتصاد والبيئة والديمقراطية والخصوصية.

لماذا يهم هذا الخبر؟

يكشف النقاش عن فجوة بين مخاطر بعيدة المدى يصعب التحقق من احتمالاتها، ومخاطر قائمة يمكن رصدها اليوم. فقد حذر أندرو روجويفسكي من أن الأنظمة الحالية لا تزال بعيدة عن المرونة البشرية، وقد تكون تقنيات الذكاء الاصطناعي المتقدمة مكلفة أو محدودة الفائدة. وقال ديفيد باربر إن المشكلة العملية قد تتفاقم عندما تحصل الأنظمة على وصول غير مقيد إلى الإنترنت والأنظمة المختلفة، بينما أشارت ساندرا فاختر إلى التضليل والأثر البيئي والوظائف بوصفها قضايا حقيقية وملحّة.

ويرى غاري ماركوس أن الفارق الحاسم سيكون بين ذكاء اصطناعي فائق متوافق مع مصالح البشر وآخر غير متوافق معها، مع إقراره بأن النقاش الحالي يتضمن ضجيجًا إعلاميًا ونقصًا في الحذر والمسؤولية. وبذلك، لا يثبت المصدر أن سيناريو انقراض البشرية وشيك أو مؤكد، لكنه يوضح أن الخلاف حول مستوى الخطر لم يعد أكاديميًا فقط؛ بل أصبح مرتبطًا بالتشريع، واختبارات ما قبل الإطلاق، وحدود وصول النماذج إلى الأنظمة.