Anthropic تقترح إطارين لسياسات التعامل مع تسارع الذكاء الاصطناعي

تدعو Anthropic الحكومات إلى تحديث سياساتها لمواكبة التسارع الذي تشهده قدرات الذكاء الاصطناعي، عبر مقترحين يغطّيان حوكمة النماذج المتقدمة والاستعداد لتأثير التقنية في العمال والاقتصاد. وترى الشركة أن سرعة تطور النماذج تجعل الشفافية وحدها غير كافية، وأن الجهات الحكومية تحتاج إلى صلاحيات أكبر للتعامل مع عمليات النشر التي قد تنطوي على مخاطر كارثية، مع وضع ضمانات تمنع إساءة استخدام هذه الصلاحيات.

يتكون المقترح الأول من إطار الذكاء الاصطناعي المتقدم، الذي يركز على النماذج الأقوى والمخاطر التي قد تنشأ عنها. أما المقترح الثاني، وهو الإطار الاقتصادي، فيتناول كيفية إعداد العمال والاقتصاد لتأثير الذكاء الاصطناعي، وضمان تقاسم فوائده المالية على نطاق واسع. وتقول Anthropic إن الإطارين يعالجان جانبين من تحدٍّ واحد: توجيه التقنية بصورة مسؤولة مع تقدمها، والاستعداد للتغييرات التي ستجلبها إلى المجتمع.

نطاق القواعد المقترحة

يقترح الإطار المتقدم تطبيق القواعد على النماذج التي دُرّبت باستخدام أكثر من 10²⁵ عملية حسابية للفاصلة العائمة، والتي تطورها شركات تحقق أكثر من 500 مليون دولار من الإيرادات المرتبطة بالذكاء الاصطناعي أو تنفق أكثر من مليار دولار على البحث والتطوير في هذا المجال. وتقول Anthropic إن هذا النطاق يستهدف نماذج الحدود، بدلاً من فرض المتطلبات نفسها على جميع أنظمة الذكاء الاصطناعي.

وتربط الشركة الحاجة إلى هذا النوع من التنظيم بالاتجاه التصاعدي الحاد في قدرات النماذج. وتذكر أن النماذج قبل بضع سنوات كانت بالكاد قادرة على كتابة الشيفرة، بينما اكتشف نموذج Claude Mythos Preview، وفق ما تورد Anthropic، آلاف الثغرات البرمجية عالية الخطورة، بما في ذلك ثغرات في كل نظام تشغيل ومتصفح رئيسي. وتخلص الشركة من ذلك إلى أن استمرار هذا الاتجاه قد يزيد مخاطر الأضرار الكارثية.

أربعة أنواع من المخاطر

يركز الإطار على أربعة مجالات رئيسية للمخاطر:

• المخاطر البيولوجية: قد تجعل الأنظمة غير المحمية تطوير الأسلحة البيولوجية أسهل وأقل كلفة، رغم أن القدرات نفسها يمكن أن تسرّع اكتشاف الأدوية.
• المخاطر السيبرانية: تستطيع نماذج الذكاء الاصطناعي المتقدمة اكتشاف ثغرات حرجة على نطاق واسع، ما قد يساعد في الدفاع عن الأنظمة، لكنه يرفع أيضاً مستوى التهديد للبنية التحتية الأساسية، مثل المستشفيات وشبكات الطاقة.
• مخاطر فقدان السيطرة: قد يصبح التحكم في الأنظمة التي تتصرف خارج نطاق مطوريها أكثر صعوبة مع تحسن قدراتها.
• البحث والتطوير المؤتمت: يمكن للأنظمة أن تؤتمت أبحاث الذكاء الاصطناعي وتطويره، بما قد يضاعف المخاطر الثلاثة السابقة.

متطلبات مطوري النماذج المتقدمة

تقترح Anthropic أن يختبر مطورو النماذج المتقدمة أنظمتهم وينشروا ملخصاً للنتائج، إلى جانب إطار للسلامة يوضح كيفية تقييم المخاطر الكارثية، وبطاقات نظام تشرح قدرات النماذج ومخاطرها. كما يدعو الإطار إلى نشر تقارير دورية عن الوضع العام للمخاطر، وإجراء تقييمات مستقلة بصورة منتظمة. وتشير الشركة إلى أن بعض متطلبات الشفافية مفروضة بالفعل بموجب قوانين في كاليفورنيا ونيويورك، لكنها ترى أن مقترحها يتجاوزها في بعض الجوانب.

وبموجب المقترح، ينبغي لكل مطور للنماذج المتقدمة الاستعانة بمقيّم مستقل مؤهل واحد على الأقل، على أن ينشر هذا المقيّم مراجعة لتقييمات الشركة وتقارير مخاطرها. كما تدعو Anthropic الحكومات وقطاع التقنية إلى تطوير منظومة من المقيمين المستقلين عبر وضع معايير لهم، وتوفير التمويل وإتاحة الوصول الكافي إلى النماذج.

ويشمل الإطار كذلك متطلبات أمنية لحماية أوزان النماذج والبنية التحتية المستخدمة في التدريب، باعتبارها أهدافاً قيّمة للمهاجمين، بمن فيهم جهات حكومية ذات موارد كبيرة. وتقترح الشركة تأمين بيئة التطوير بأكملها ضد التهديدات الخارجية والداخلية، ووصف البرنامج الأمني على مستوى عام للجمهور، وتوفير تفاصيل لجهة حكومية محددة عند الطلب، وإنشاء قنوات للإبلاغ عن هجمات تقليد النماذج، واختبار الدفاعات بصورة دورية.

صلاحيات حكومية مع ضوابط

ترى Anthropic أن الحكومات يجب أن تملك القدرة القانونية على منع أو ردع نشر النماذج التي تشكل خطراً كبيراً على إحداث أضرار كارثية، مع فرض عقوبات مدنية مرتبطة بالإيرادات السنوية العالمية وتصاعدها عند تكرار المخالفات. لكنها تحذر في الوقت نفسه من الصلاحيات التنظيمية الواسعة أو الثقيلة، وتقترح آلية محددة لمنع عمليات النشر الخطرة وضمانات ملموسة للحد من إساءة استخدام هذه السلطة.

يركز الإطار أساساً على الحكومة الفيدرالية الأميركية، لكنه لا يدعو إلى إلغاء قوانين الولايات إلا إذا أُقر قانون اتحادي لا يقل قوة عن المقترح. وتقول Anthropic إن إلغاء صلاحيات الولايات ينبغي أن يكون محدوداً، بحيث تظل قادرة على تنظيم قضايا مثل سلامة الأطفال وحماية المستهلك، ما دامت خارج وظائف السلامة المحددة التي يغطيها القانون الفيدرالي.

تعزيز قدرة المجتمع على الصمود

يقترح الجزء الثاني من الإطار إجراءات لرفع قدرة المجتمع على مواجهة المخاطر. ففي المجال البيولوجي، تشمل التوصيات فحص تخليق الجينات، ورصد التفشيات الجديدة عبر أنظمة مراقبة مبكرة، والاستعداد من خلال تخزين معدات الحماية ووسائل الحد من انتقال العدوى عبر الهواء.

وفي المجال السيبراني، تدعو Anthropic إلى تقوية البرمجيات التي تعتمد عليها شبكة الإنترنت، وتوفير دعم تقني لمشغلي البنية التحتية الأساسية، واستبدال الأنظمة القديمة المستخدمة فيها. كما تقترح إنشاء وظيفة حكومية مخصصة لتتبع القدرات السيبرانية للنماذج المتقدمة، وتعاون الحكومة وقطاع التقنية في تطوير وسائل حماية تسمح بمشاركة القدرات السيبرانية على نطاق واسع.

وتقر الشركة بأن أجندة الصمود أمام مخاطر فقدان السيطرة والبحث والتطوير المؤتمت لا تزال أقل تطوراً، وأنها تحتاج إلى مزيد من العمل في مختلف أنحاء القطاع. ومن الاتجاهات التي تذكرها تطوير قدرات لاكتشاف الأنظمة التي تتصرف خارج سيطرة مطوريها والاستجابة لها، وبناء بنية تحتية لاحتواء هذه الأنظمة أو إيقافها.

وتتوقع Anthropic نقاشاً واسعاً حول مقترحاتها، لكنها تحث صانعي السياسات على الانخراط في هذه القضايا الآن، مع استمرار تحسن قدرات الذكاء الاصطناعي خلال الأشهر المقبلة. وتؤكد أن حوكمة التقنية ينبغي أن تواكب هذا التطور، مع بقاء المقترحات المطروحة موضع نقاش وتقييم.