رئيس Anthropic يطرح خطة لإبطاء سباق الذكاء الاصطناعي المتقدم

اقترح Dario Amodei ثلاث آليات لـ«إبطاء وتيرة التقدم» في نماذج الذكاء الاصطناعي، تشمل مراقبين مستقلين داخل الشركات، ومعايير سلامة مشتركة، وتنسيقاً دولياً. وتلتزم Anthropic من جانبها بإتاحة وصول موسع لمقيّمين خارجيين، فيما تبقى قابلية تطبيق المقترحات وتعارضها المحتمل مع قوانين المنافسة أسئلة مفتوحة.

دعا Dario Amodei، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي، مقترحاً ثلاثة مسارات للتعامل مع المخاطر المتزايدة المرتبطة بما تسميه شركات القطاع «الحدود المتقدمة» للتقنية. وقال Amodei إن Anthropic ستلتزم من جانب واحد بأحد هذه المسارات، داعياً الحكومات إلى مطالبة الشركات الأخرى باتباعه.

جاء الطرح في منشور جديد وسط تصاعد النقاش حول سلامة الذكاء الاصطناعي، وبعد تحذيرات من باحثين داخل القطاع بشأن سرعة التطور وقدرة الأنظمة المتنامية على المساعدة في بناء الجيل التالي من نماذج الذكاء الاصطناعي. وذكر Amodei أن حادثة اختراق OpenAI-HuggingFace، إلى جانب التسارع الكبير في قدرات النماذج خلال الأشهر الأخيرة، أقنعته بالحاجة إلى نهج أكثر حذراً.

مراقبون مستقلون داخل شركات الذكاء الاصطناعي

المقترح الأول هو إدخال مقيّمين من جهات خارجية، مثل METR، إلى شركات الذكاء الاصطناعي المتقدمة. ويشبه Amodei هذا الترتيب بوجود مراقبين أو جهات رقابية داخل المؤسسات المالية، بحيث يستطيع المقيّمون التحقق من التزام الشركات بتعهداتها المتعلقة بإبطاء التطوير والسلامة، والتأكد من الإبلاغ عن حوادث السلامة.

تقول Anthropic إنها ستلتزم بهذا الترتيب من جانب واحد. وسيحصل المقيّمون على بطاقات دخول ومكاتب وحواسيب، مع وصول إلى المعلومات قريب في نطاقه من وصول فرق تقييم المخاطر الداخلية، باستثناء ما تمنعه القوانين أو العقود. ويأتي هذا الاقتراح بعد انتقادات وُجهت إلى OpenAI بسبب عدم الإبلاغ عن حادثة استولت فيها وكلاء ذكاء اصطناعي على نموذج على موقع ويكي ألماني، وفقاً للمادة.

معايير مشتركة وحدود لسرعة التطور

المسار الثاني يتمثل في تنسيق الشركات الرائدة الموجودة في الدول الديمقراطية لوضع معايير سلامة مشتركة، إلى جانب حدود على معدل التقدم غير الخاضع للرقابة. ويرى Amodei أن هذا التنسيق قد يواجه صعوبات عملية، خصوصاً في ظل التنافس بين الشركات ومخاوف من أن يُفسَّر أي توقف أو تباطؤ منسق على أنه مخالفة لقوانين مكافحة الاحتكار.

ولمعالجة هذا القلق، اقترح أن تتوسط الحكومة الأمريكية في هذه المناقشات أو تتيحها، من خلال إعفاء قانوني محدود يسمح بنقاشات معينة تتعلق بالسلامة. ولا يدعو المقترح، كما ورد في المادة، إلى مشاركة حكومية كاملة في إدارة الشركات، بل إلى توفير إطار قانوني لمحادثات السلامة بين المنافسين.

الصين والتنسيق الدولي

اعترف Amodei بأن الدعوة إلى إبطاء التطوير تواجه حجة شائعة مفادها أن أي تباطؤ أمريكي قد يمنح الصين تقدماً في الذكاء الاصطناعي. لكنه قال إن الولايات المتحدة وشركات التقنية يمكن أن تبطئ تقدم الصين بما يكفي لتوسيع الفارق خلال السنوات الثلاث إلى الخمس المقبلة، عبر منع بيع الرقائق القوية ومعدات تصنيع أشباه الموصلات للشركات الصينية، وتشديد القيود على تقنيات تقطير النماذج.

أما المسار الثالث فهو تنسيق عالمي يشمل الولايات المتحدة وحلفاءها، مع محاولة التعاون مع حكومات سلطوية، بما في ذلك الصين، ضمن حدود ضيقة. ويقر Amodei بأن فرص الاتفاق محدودة، لكنه يرى مجالاً لاتفاقات تحظر استخدامات محددة وخطيرة بوضوح، مثل توظيف الذكاء الاصطناعي في إنتاج الأسلحة البيولوجية أو تمكين المستخدمين من ذلك.

ما الذي يهم فعلاً؟

اللافت في الطرح ليس دعوة عامة إلى «سلامة الذكاء الاصطناعي» فحسب، بل محاولة تحويلها إلى آليات قابلة للتحقق: مراقبون مستقلون، التزامات بالإبلاغ، ومعايير مشتركة، وحدود على سرعة التطوير. وإذا نُفذ المقترح الخاص بالمقيّمين، فسيمنح جهات خارجية وصولاً إلى عمليات تقييم المخاطر داخل شركة رائدة، وهو ما قد يرفع مستوى التدقيق مقارنة بالتعهدات الطوعية وحدها.

في المقابل، لا يقدم المنشور حلاً نهائياً لمشكلة تضارب المصالح. فالشركات التي تتنافس على تطوير النماذج ستحتاج إلى تبادل معلومات حول السلامة من دون كشف ما تعتبره أسراراً تجارية، بينما قد يؤدي التنسيق بينها إلى تدقيق قانوني بموجب قواعد المنافسة. كما أن الخلاف حول طبيعة المخاطر لا يزال قائماً: بعض المنتقدين يشككون في التحذيرات الكارثية بعيدة المدى، ويرون أنها قد تصرف الانتباه عن الأضرار الحالية، في حين يحذر آخرون من أن مقترحات التنظيم قد تنتهي إلى خدمة الشركات الكبرى وترسيخ نفوذها.

ويؤكد Amodei أنه لا يرفض فوائد الذكاء الاصطناعي، بل يرى أن تحسين جودة الحياة لن يتحقق إلا ببناء التقنية بطريقة صحيحة واستغلال الوقت الذي يوفره التباطؤ بحذر. لكن المصدر لا يوضح كيف ستُقاس «الوتيرة المقبولة» للتقدم، ومن سيحدد الحوادث التي يجب الإبلاغ عنها، أو كيف ستُطبق المعايير على الشركات التي لا تنضم إلى هذا الإطار.