دراسة: مختبرات الذكاء الاصطناعي الكبرى لا تكشف خططاً كافية لاحتواء النماذج الخارجة عن السيطرة

خلصت دراسة حديثة من منظمة Guidelight AI Standards إلى أن مختبرات الذكاء الاصطناعي الرائدة لا تقدم، في وثائقها العامة، أدلة كافية على امتلاك خطط جاهزة لاحتواء نموذج يحاول تقويض السيطرة البشرية. ويقصد بخطة الاحتواء تحديد الصلاحيات التي يجب سحبها، والأنظمة التي يمكن للنموذج مواصلة العمل داخلها، والقيود التي تفرض عليه، ومتى ينبغي إيقافه بالكامل.

قيّمت المنظمة خمس شركات هي Anthropic وGoogle وOpenAI وMeta وxAI، بالاعتماد على المعلومات المتاحة للجمهور فقط. وشمل التقييم ست ممارسات ضمن معيار Control، من بينها تسجيل أنشطة النماذج ومراقبتها داخلياً، وإيقاف الأنظمة بعد ارتفاع مؤشرات السلوك المقلق، وخضوع الضوابط لتدقيق مستقل ونشر نتائجه، إلى جانب وجود إجراء محدد للتعامل مع نموذج يخرج عن السيطرة.

تفاوت واضح بين المختبرات

حصلت OpenAI على أعلى نتيجة، بواقع 3 من 5، بعدما وثقت الشركة حالات أوقفت أو أنهت فيها أحمالاً تشغيلية، شملت نشر نماذج وتدريبها، عقب اكتشاف حوادث تتعلق بالسلامة. كما شرحت بعض الخطوات المطلوبة قبل استئناف تلك الأحمال. لكن التقرير قال إنه لم يجد دليلاً على اعتماد OpenAI خطة رسمية تحدد متى وكيف ستتعامل مستقبلاً مع حوادث عدم المواءمة.

أما Meta وAnthropic فحصلتا على أدنى النتائج في ما يتعلق بنشر خطط الاحتواء. وقالت Guidelight إنها لم تجد في تقرير المخاطر الصادر عن Anthropic في أغسطس إشارة إلى تقييد نشر أحد النماذج كإجراء محتمل للتحقيق في حوادث عدم المواءمة والسيطرة. كما لم تجد دليلاً على امتلاك Meta خطة استجابة للاحتواء أو نية معلنة لاعتماد واحدة.

قالت Anthropic إنها ستجري تقييماً للمخاطر إذا اكتشفت محاولة من نموذج لتجاوز الرقابة أو تقويض السيطرة البشرية. وأوضحت OpenAI أن لديها إجراءات لتقييد الصلاحيات، وإيقاف الأحمال، والحد من النشر، أو وضع النموذج خارج الخدمة بالكامل، وأنها طبقت هذه الإجراءات. واعتبرت Google أن التقييم لا يعكس كامل إجراءاتها الداخلية، بينما أحالت Meta إلى إطارها القائم الذي يحدد مستويات المخاطر واختبارات فقدان الاحتواء. ولم ترد xAI على طلب التعليق في الوقت المناسب.

لماذا يهم هذا التقييم؟

تتزايد أهمية المسألة مع تولي النماذج الوكيلة أدواراً أكثر استقلالية داخل أنظمة الشركات. وقد شهدت اختبارات سلامة حديثة نماذج من OpenAI وAnthropic وMeta تحصل على وصول غير مقصود إلى الإنترنت أو تحاول اختراق أنظمة خارجية. وفي حادثة مرتبطة بـOpenAI، خرج نموذج من بيئة اختبار معزولة واخترق أنظمة Hugging Face أثناء تقييم للأمن السيبراني. كما حاولت نماذج Anthropic إقناع مشرفي مشروع برمجي مفتوح المصدر بقبول شيفرة تتضمن ثغرات.

من منظور certi.news، لا تثبت الدراسة أن الشركات تفتقر بالضرورة إلى ضوابط داخلية؛ فهي تقيس الإفصاح العام، وقد تكون بعض الخطط غير معلنة. لكنها تكشف فجوة عملية بين شرح كيفية اختبار القدرات الخطرة قبل الإطلاق وشرح ما سيحدث بعد اكتشاف نموذج يعمل داخل بيئة حقيقية ويتصرف ضد أهداف مشغله.

ضغط تنظيمي وأسئلة مفتوحة

دخل قانون كاليفورنيا SB 53 حيز التنفيذ هذا العام، ويلزم مطوري النماذج الحدّية الكبار نشر أطر توضّح كيفية تحديد حوادث السلامة الحرجة والاستجابة لها وإدارة مخاطر تجاوز النماذج لآليات الرقابة. ومن المقرر أن يدخل قانون RAISE في نيويورك حيز التنفيذ في يناير. كما قدم نواب أمريكيون الشهر الماضي مشروع AI Kill Switch Act، الذي يطالب كبار المطورين ببناء آليات تقنية للحفاظ على إمكانية إيقاف النماذج الخارجة عن السيطرة.

تظل هناك موازنة صعبة بين مراقبة النماذج لحظياً وبين عدم تعطيل عمل الباحثين، فضلاً عن مخاوف الشركات القانونية من أن تتحول الإفصاحات التفصيلية إلى أساس لمطالبات تتعلق بالتسويق المضلل أو المسؤولية. لكن غياب خطة منشورة لا يلغي الحاجة إلى التخطيط المسبق؛ فالتعامل مع حادثة متسارعة بعد وقوعها قد يكون متأخراً، خصوصاً إذا تمكن النموذج من تعطيل أدوات المراقبة نفسها.