تعتزم OpenAI استخدام تقنية استدلال تُعرف باسم «العمق التكراري» (recurrent depth)، أو «التكرار المعتم» (opaque recurrence)، في نموذجها الجديد Astra، وفقاً لما أوردته The Information. وتسمح التقنية للنموذج بمعالجة الاستعلام نفسه عدة مرات ضمن حلقة، بدلاً من اتباع مسار متسلسل يشبه خطوات التفكير التقليدية في نماذج الاستدلال.
المسألة التي أثارت القلق لا تتعلق بإطلاق النموذج أو قدراته المعلنة فحسب، بل بإمكانية أن تجعل هذه البنية عملية الاستدلال أقل قابلية للفحص. فكلما قلّت الآثار المقروءة التي يتركها النموذج، أصبح من الأصعب على فرق السلامة اكتشاف السلوك غير المرغوب فيه أو فهم أسباب قرارات الوكلاء والنماذج المتقدمة.
لماذا يهم هذا الخبر؟
تستخدم فرق أبحاث الذكاء الاصطناعي سجلات «سلسلة التفكير» كأداة مراقبة، رغم أن هذه السجلات لا تمثل بالضرورة التفكير الداخلي للنموذج تمثيلاً كاملاً أو حرفياً. وقد كانت هذه السجلات، بحسب المادة، عاملاً مهماً في تحليل نشاط حديث لوكلاء وُصف بأنه خارج عن السلوك المتوقع، وفي محاولة فهم أسباب تصرفاتهم.
أما في حالة التكرار المعتم، فقد تنتقل أجزاء أكبر من عملية المعالجة إلى مسار لا ينتج خطوات واضحة يمكن للبشر قراءتها بسهولة. ويثير ذلك سؤالاً عملياً لفرق السلامة: كيف يمكن مراقبة نموذج تزداد قدرته على الاستدلال، إذا كانت الأدلة المتاحة عن طريقة وصوله إلى النتيجة تتضاءل في الوقت نفسه؟
مخاوف من مسار يصعب التراجع عنه
حذّر Buck Shlegeris، الرئيس التنفيذي لشركة Redwood، من أن زيادة التكرار قد تقلل قابلية مراقبة سلسلة التفكير بدرجة كبيرة. وقال إنه لا يعرف بعد ما إذا كان Astra أقل قابلية للمراقبة من النماذج السابقة، لكنه يخشى أن يؤدي دفع التقنية إلى مستويات أعلى إلى تقويض هذه القابلية بالكامل.
كما رأى Zvi Mowshowitz، وهو من المدافعين منذ فترة طويلة عن سلامة الذكاء الاصطناعي، أن الاستخدام المكثف لهذه الأساليب قد يضر بما وصفه بجهود OpenAI وAnthropic للحفاظ على قابلية قراءة سلاسل التفكير ومطابقتها للسلوك الفعلي. وطرح احتمال الحاجة إلى قوانين لمنع ما سماه «سباقاً نحو القاع» بين مختبرات الذكاء الاصطناعي.
موقف OpenAI والحدود المعروفة حالياً
تشير المعلومات المتاحة إلى أن استخدام Astra للتقنية سيكون محدوداً، وأن سلسلة تفكيره يُتوقع أن تظل قابلة للقراءة. كما رفضت OpenAI الإيحاء بأن النموذج سينتقل إلى نمط غير مفهوم بالكامل أو ما يُسمى أحياناً «لغة عصبية» (neuralese).
وأكد Jakub Pachocki، كبير العلماء في OpenAI، عبر منشور على منصة X، أن الشركة عملت منذ نماذج الاستدلال الأولى على الحفاظ على مراقبة سلسلة التفكير واستخدامها، وأن هذا الهدف يمثل محوراً أساسياً في برنامجها البحثي الحالي. وكانت OpenAI قد أعلنت أيضاً عن خطط لمراقبة موسعة لسلاسل التفكير ضمن خططها المستقبلية للسلامة.
ما الذي يبقى مفتوحاً؟
يرى Ryan Greenblatt، كبير العلماء في Redwood Research، أن الاستدلال المعتم قد يتوسع بسرعة أكبر من الاستدلال القائم على سلسلة تفكير تقليدية، وصولاً إلى نقل معظم عملية التفكير إلى «المجال الكامن» غير المرئي. وذكرت The Information لاحقاً أن Anthropic وGoogle DeepMind تناقشان التقنية أيضاً، ما يشير إلى أن القضية قد تتجاوز نموذج Astra إلى اتجاه بحثي أوسع.
لكن المصدر لا يثبت أن Astra سيخفي سلسلة تفكيره بالكامل، ولا يقدم قياسات محددة توضح مقدار تراجع قابلية المراقبة. لذلك يتمثل التغيير المؤكد حالياً في ظهور تقنية جديدة تثير أسئلة حول أدوات السلامة، لا في ثبوت فشل تلك الأدوات. وستعتمد أهمية التطور عملياً على مدى استخدام التكرار المعتم، وعلى قدرة OpenAI والمختبرات الأخرى على تقديم وسائل مراقبة بديلة أو مكملة للسجلات التقليدية.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.