أعلنت Anthropic بدء تطبيق نموذج رقابة مستقل يمنح ستة موظفين من منظمة METR وصولاً شبيهاً بوصول موظفي الشركة إلى الأجهزة والمساحات المكتبية والأدوات والأنظمة الداخلية اللازمة لتقييم مخاطر نماذج الذكاء الاصطناعي المتقدمة. وتقول الشركة إن METR ستنشر نتائج تقييماتها لمستويات المخاطر والحوادث والممارسات، من دون أن تملك Anthropic حق نقض النشر.
تأتي الخطوة بعد تعهد Anthropic الشهر الماضي بتعزيز التقييم المستقل من أطراف ثالثة، وبعد توقيعها «اتفاق البيت الأبيض بشأن الذكاء الاصطناعي الفائق»، الذي يتضمن التزام الشركات بالتعاون مع مدققين أو مقيمين خارجيين مستقلين. وكانت Anthropic قد عملت خلال العام الماضي مع METR على مراجعات عدة لتقارير المخاطر الخاصة بها، بينما تتعاون كذلك مع SecureBio وAccenture وFaculty، وتجري نقاشات أولية مع جهات أخرى بينها Hugging Face.
ما الذي يعنيه الوصول الشبيه بالموظفين؟
بحسب Anthropic، يُشجَّع الموظفون على مشاركة المعلومات مع فريق METR كما يشاركونها مع زميل يعمل على مخاطر المواءمة. ويشمل ذلك وصولاً يقارب ما تحصل عليه فرق تقييم المخاطر الداخلية، باستثناء فئات محددة مثل بيانات العملاء، والمعلومات المحمية بسرية العلاقة بين المحامي وموكله، وبعض المعلومات المتعلقة ببنية النماذج.
لا تستطيع Anthropic منع METR من نشر ملاحظاتها أو تقييماتها، لكنها تستطيع طلب حجب معلومات تقع ضمن فئات ضيقة ومحددة مسبقاً. وفي المقابل، تستطيع METR وصف عمليات الحجب علناً وبيان ما إذا كانت تراها مبررة، من دون الكشف عن المعلومات المحجوبة. كما أن المشاركة محصورة بفريق صغير يعمل بموجب اتفاقيات قابلة للإنفاذ، مع عزل بقية موظفي METR عن هذه المهمة.
ثلاث درجات للتقييم المستقل
تعمل Anthropic على إنشاء نموذج من ثلاث درجات للشراكات مع المقيمين:
- الدرجة الأولى: تحقيقات محدودة النطاق، تحدد Anthropic مستوى الوصول إليها، ولا يُنشر الناتج إلا بموافقتها.
- الدرجة الثانية: وصول أوسع وحق النشر دون موافقة مسبقة، مع احتفاظ Anthropic بحق طلب إزالة فئات معينة من المعلومات.
- الدرجة الثالثة: ترتيبات METR الحالية، وتشمل وصولاً شبيهاً بوصول الموظفين وحقوق نشر مماثلة للدرجة الثانية.
تراجع SecureBio حالياً فصل الأسلحة الكيميائية والبيولوجية في تقرير مخاطر Anthropic الصادر في أغسطس، بعد إنجاز مراجعة تجريبية لتقرير سابق ونشر نتائجها. أما الشراكة مع Accenture وFaculty فتشمل تقييم النماذج واختبارها بأسلوب red teaming، وإجراء تقييمات للمواءمة، واختبار وسائل الحماية، وبناء قدرات مشتركة.
لماذا يهم هذا التغيير؟
تقر Anthropic بأن الشركة تعرف عن أنظمتها ومخاطرها أكثر مما يستطيع المراقب الخارجي معرفته، لكنها لا تستطيع نشر كل التفاصيل علناً بسبب مخاطر إساءة الاستخدام أو الحساسية التجارية، بما في ذلك معلومات الحوسبة والتدريب. لذلك يهدف النموذج إلى سد الفجوة بين ما يراه المقيمون المستقلون وما تعرفه الشركة داخلياً، مع منح المقيمين مساحة فعلية لنشر استنتاجاتهم.
مع ذلك، تظل التجربة محدودة بفريق صغير وباتفاقيات وصول وضوابط سرية، كما أن بعض الشراكات الأخرى ما زالت في مراحل مبكرة وتتمتع بحقوق نشر أضيق. وستكون فاعلية النموذج مرتبطة بمدى استقلال المقيمين، واتساع المعلومات المتاحة لهم، وقدرتهم العملية على نشر نتائج غير مريحة للشركة، وهي نقاط قالت Anthropic إنها لا تزال تتعلم كيفية تنظيمها.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.