نشرت Anthropic ورقة بحثية بعنوان Automated Researchers Can Reliably Mitigate Alignment Failures، تعرض تجربة استخدمت فيها أنظمة ذكاء اصطناعي آلية لتحسين أداء نموذج على اختبارات تقيس سلوكيات محددة غير منسجمة مع أهداف المواءمة. ووفق المادة، نجحت الأنظمة في رفع الأداء على الاختبارات العشرة كلها، من دون الإضرار بالأداء العام للنموذج.
تقود البحث Chen Yueh-Han، وهي زميلة في برنامج Anthropic، بينما يحاكي النظام ما يشبه دورة البحث التقليدية: يبحث في الأدبيات المتاحة، يقترح طريقة لتحسين النموذج، ثم يدربه باستخدام الطريقة المقترحة لمدة 30 دقيقة. وبعد كل جولة، تُرفع الطرق الفعالة إلى مراحل لاحقة، بينما تُستبعد الطرق غير الفعالة، بما يسمح بتكرار التجارب بسرعة وعلى نطاق واسع.
ما الذي تغير عملياً؟
القيمة الأساسية في التجربة ليست مجرد استخدام نموذج لتدريب نموذج آخر، بل نقل جزء من عملية البحث نفسها إلى نظام آلي. فبدلاً من أن يقتصر دور الذكاء الاصطناعي على تنفيذ تعليمات يضعها الباحث، يحاول النظام تحديد مسارات بحثية، واختبارها، والاحتفاظ بما يثبت نجاحه منها.
وتقول الورقة إن هذه النتائج تقدم دليلاً مبكراً على أن أبحاث المواءمة الآلية بعد التدريب قد تصبح عملية في المدى القريب. ويقصد بذلك تطوير سلوك النموذج بعد مرحلة التدريب الأساسية بهدف تقليل حالات عدم توافقه مع الأهداف المحددة له، اعتماداً على معايير اختبار وطرق تدريب قابلة للتكرار.
مقارنة مباشرة مع البحث البشري
تذهب الورقة أبعد من عرض تحسن في نتائج الاختبارات، إذ تقارن بين ما تسميه Automated Alignment Researcher، أو AAR، والباحث البشري. وبحسب النتائج الواردة فيها، تفوقت أفضل طريقة اقترحها نظام AAR على ما يقترحه باحثون بشريون ذوو خبرة في المتوسط خلال ست ساعات، كما ذكرت أن اتجاهات البحث الموجهة من البشر لم تؤد إلى أداء أقوى.
وتتضمن المقارنة جانباً اقتصادياً أيضاً: تقدر الورقة تكلفة تشغيل AAR بنحو 4 دولارات لكل ساعة من استدلال واجهة برمجة التطبيقات، مقابل 150 دولاراً لكل ساعة يدفعها الباحثون البشريون في التجربة. هذه الأرقام لا تثبت أن الأنظمة الآلية يمكنها استبدال الباحثين، لكنها توضح سبب اهتمام المختبرات بتوسيع نطاق التجارب المؤتمتة عندما تكون المهمة قابلة للقياس.
لماذا لا يعني ذلك أن الذكاء الاصطناعي يطور نفسه بلا قيود؟
الخطوة المعروضة تقترب من فكرة التحسين الذاتي التكراري، أي أن تستخدم النماذج أنظمة أخرى لتحسين طرق تدريبها أو سلوكها، لكن الورقة نفسها تضع حدوداً واضحة لهذه النتيجة. فالنظام لا يستطيع تحسين ما لا تقيسه المعايير جيداً. وإذا كانت اختبارات المواءمة لا تعكس أهداف المواءمة الفعلية، فقد يؤدي تحسين النتائج إلى تحسين الأداء على المؤشر فقط، لا إلى حل المشكلة التي يفترض أن يقيسها.
كما يتطلب هذا النهج جهداً مستمراً لإنشاء المعايير والمحافظة عليها وتوسيعها، فضلاً عن تحديث الأدبيات التي يعتمد عليها الباحث الآلي. لذلك يظل العنصر البشري حاضراً في تحديد ما ينبغي قياسه، وتقييم مدى صلاحية الأدلة والطرق المستخدمة، ومراجعة ما إذا كانت النتائج قابلة للتعميم خارج مجموعة الاختبارات.
قراءة certi.news
النتيجة المهمة هنا هي أن أتمتة أبحاث المواءمة انتقلت من فكرة عامة إلى تجربة محددة بأرقام ومقارنات قابلة للنقاش: عشرة اختبارات، جولات تدريب مدتها 30 دقيقة، وتفوق متوسط على مقترحات بشرية خلال ست ساعات وفق ما أوردته الورقة. لكن الدلالة العملية تظل مرتبطة بجودة المعايير التي توجه النظام. فالتحسن المقاس ليس دليلاً مستقلاً على أن النموذج أصبح أكثر أماناً في كل السياقات، كما أن المقارنة بين تكلفة الاستدلال وتكلفة الباحثين لا تحسم مسألة الإشراف أو المسؤولية العلمية.
وعليه، تقدم الورقة مؤشراً قوياً على إمكانية تسريع دورة البحث في المواءمة، لا برهاناً على قرب استغناء المختبرات عن الباحثين البشريين. السؤال المفتوح الذي تتركه هو ما إذا كانت الأنظمة الآلية ستستطيع التعامل مع أهداف مواءمة أكثر واقعية وتعقيداً، بدلاً من تحسين مؤشرات محددة صممها البشر مسبقاً.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.