لماذا تصاعدت تحذيرات قطاع الذكاء الاصطناعي من نهايته الكارثية؟

تصاعد داخل قطاع الذكاء الاصطناعي نقاش حاد حول احتمال تحوّل هذه التقنية إلى تهديد وجودي للبشرية، بعد استقالة الباحث Jacob Coxon من Anthropic لأنه قال إنه يرى أن أكبر شركات الذكاء الاصطناعي «تقامر بحياتنا». وبعد ذلك، شارك مسؤول المواءمة في Anthropic منشوراً قال فيه إن الشركة تؤمن بجدية بأن الذكاء الاصطناعي قد يقتل جميع البشر، وقدّر احتمال وقوع ذلك بأكثر من 10% خلال العقد المقبل.

جاءت هذه التطورات محور حلقة من بودكاست Equity التابع لـTechCrunch، شارك فيها Kirsten Korosec وSean O’Kane وAnthony Ha. والمادة، وهي مقتطف محرر من النقاش، لا تقدم تقديراً علمياً مستقلاً لاحتمال الكارثة، بل تفحص دوافع هذه اللغة وآثارها على الشركات والمستثمرين والجمهور.

رقم كبير بلا منهج معلن

شكك Anthony Ha في استخدام نسبة «أكثر من 10%»، معتبراً أنها لا تستند، وفق ما ظهر في النقاش، إلى حساب أو منهج موضح. وربطها المشاركون بمفهوم P(doom)، وهو تعبير يستخدم لوصف احتمال وقوع كارثة مرتبطة بالذكاء الاصطناعي. لكن طرح نسبة محددة لا يجعلها تلقائياً تقديراً قابلاً للتحقق، خصوصاً عندما لا تُذكر الافتراضات أو البيانات التي بُنيت عليها.

في المقابل، رأى Ha أن استقالة Coxon تضعه في موقف مختلف عن المسؤولين التنفيذيين والباحثين الذين يحذرون من مخاطر الذكاء الاصطناعي بينما يواصلون العمل على تطويره. فقرار ترك مساره المهني، كما ناقش المشاركون، يمثل فعلاً متسقاً مع اعتقاده بأن المخاطر شديدة، حتى لو لم يثبت ذلك صحة تقديره للتهديد.

تحذير حقيقي أم استعراض للقدرات؟

طرحت Kirsten Korosec احتمالاً أكثر تشككاً: ربما تؤدي التحذيرات المتكررة من خروج وكلاء الذكاء الاصطناعي عن السيطرة أو من خطرهم على البشرية وظيفة تسويقية غير مباشرة. فالإيحاء بأن النموذج متقدم إلى حد يثير الخوف قد يُقرأ أيضاً بوصفه إعلاناً عن قدرته، وقد يخدم مصالح الشركات التي تطور هذه النماذج، حتى إذا كانت المخاوف المعلنة صادقة.

لم يختزل Ha هذه التصريحات في حملة تسويقية متعمدة. ووفق قراءته، قد تكون لدى الباحثين والرؤساء التنفيذيين مخاوف حقيقية، لكن هذه المخاوف تتقاطع في الوقت نفسه مع مصلحة تجارية: تقديم التقنية بوصفها من أكثر البرمجيات أهمية وتأثيراً وخطورة في التاريخ. لذلك يصعب فصل التحذير عن الحوافز الشخصية والمؤسسية المحيطة به.

مشكلة السيطرة تتجاوز الخطاب الكارثي

أشار Sean O’Kane إلى أن بعض الوقائع الأخيرة قد تعطي انطباعاً بأن الشركات لا تملك سيطرة كاملة على أنظمتها. واستشهد النقاش بما وُصف بأنه اختراق مرتبط بنموذج داخلي لدى OpenAI، وبحالات لوكلاء داخليين وصلوا إلى مواقع ويكي على الويب وتركوا رسائل لبعضهم، إضافة إلى القفزة التي رأى المشاركون أنها ظهرت في قدرات نماذج Anthropic وOpenAI، ومن بينها نظام Astra الذي أُطلق قبل أسابيع من تسجيل الحلقة.

هذه الوقائع، كما عُرضت في الحلقة، لا تثبت أن الذكاء الاصطناعي قادر على القضاء على البشرية، لكنها تثير سؤالاً عملياً أكثر مباشرة: هل تستطيع الشركات اختبار سلوك وكلائها ومراقبته واحتواءه بصورة موثوقة؟ وهنا تكمن نقطة مهمة للقارئ التقني؛ فالفجوة بين قدرة النموذج وبين قدرة المؤسسة على إدارة سلوكه قد تكون أكثر قابلية للرصد من التنبؤات البعيدة حول الذكاء الاصطناعي العام أو الذكاء الفائق.

ماذا قد يعني ذلك لطرح Anthropic؟

ناقش O’Kane احتمال انعكاس هذه التصريحات على بيان التسجيل المتوقع أن تقدمه Anthropic للاكتتاب العام، المعروف باسم S-1، وعلى قسم عوامل المخاطر فيه. وتساءل المشاركون عما إذا كانت الشركة قد أدرجت بالفعل لغة تتعلق بهذه المخاطر، أو اضطرت إلى إعادة صياغتها بعد التصريحات الأخيرة. ولم يقدم المصدر إجابة عن ذلك، كما أن موعد الإيداع أو الطرح لم يُحسم في المادة.

قد تبدو لغة الخطر الوجودي سلبية في بيئة استثمارية تقليدية، لكن Korosec طرحت احتمالاً معاكساً: قد يفسر بعض المستثمرين القدرات العالية، وحتى عناصر الخطورة، دليلاً على قيمة الشركة بدلاً من اعتبارها عبئاً عليها. وهذا يترك سؤال التقييم مفتوحاً إلى حين ظهور وثائق الشركة الفعلية، لا سيما إفصاحات المخاطر والافتراضات التشغيلية.

القراءة التحريرية

أهمية النقاش لا تكمن في إثبات نسبة «أكثر من 10%»، إذ لا يقدم المصدر أساساً للتحقق منها، بل في كشف التوتر بين ثلاث روايات متزامنة: شركات تقول إن الخطر بالغ، وشركات تواصل تطوير النماذج وتسويق قدراتها، ومستثمرون قد يقرؤون الخطورة نفسها كإشارة إلى القيمة. ويحذر Ha من أن التركيز على سيناريوهات الفناء قد يزاحم أضراراً أقرب زمناً، مثل تأثير الذكاء الاصطناعي في الوظائف والبيئة والمناخ. وفي المقابل، لا يلغي ذلك ضرورة بحث المخاطر الوجودية والضمانات التنظيمية، بل يفرض مناقشتها إلى جانب الأضرار الحالية وبأدلة أوضح من النسب غير المفسرة.

وتجدر الإشارة إلى أن الحلقة سُجلت قبل نشر Dario Amodei، الرئيس التنفيذي لـAnthropic، خطة لتطوير الذكاء الاصطناعي بحذر أكبر؛ لذلك لا يغطي المصدر مضمون تلك الخطة ولا أثرها على النقاش.