استقال David Robinson من OpenAI بعد نحو ثلاثة أعوام ونصف قضاها في الشركة، معلناً أن «ثقافتها معطوبة» وأن أسلوب تطوير الذكاء الاصطناعي المتقدم لا يمنح السلامة ما يكفي من الوقت والتخطيط والحوافز. ونشر Robinson موقفه في مقال لدى The Atlantic، موضحاً أنه قاد كتابة تقارير السلامة التي رافقت إطلاقات OpenAI الرئيسية، وأنه من بين أطول الموظفين بقاءً في الشركة.
لا يركز انتقاده على قاعدة تقنية محددة أو قانون جديد، بل على بيئة العمل التي يرى أنها تدفع الفرق إلى «الركض» المستمر وإطلاق الأنظمة ثم اكتشاف المشكلات وتحسين ضوابط الحماية استجابة لها. ويقول Robinson إن هذا النهج، الذي تسميه OpenAI «النشر التكراري»، يجعل الإخفاقات الدورية أمراً متوقعاً، بينما تتسع عواقبها مع ازدياد قدرات النماذج.
من قواعد السلامة إلى ثقافة التشغيل
يرى Robinson أن شركات الذكاء الاصطناعي الرائدة تحتاج إلى تغيير أعمق من إضافة قواعد أو سن قوانين جديدة. وبحسب روايته، لم يلتق خلال عمله في OpenAI بزملاء لديهم خبرة مباشرة في تشغيل أنظمة عالية الحساسية، مثل الطائرات أو المفاعلات النووية أو الأنظمة المالية واسعة النطاق. لذلك دعا إلى تشغيل شركات الذكاء الاصطناعي المتقدمة وفق منطق يشبه محطات الطاقة النووية أو المطارات المزدحمة: طبقات متعددة من التكرار، وتخطيط دقيق، ووقت كافٍ لتقليل أثر الخطأ البشري.
واستشهد Robinson باختراق حديث لأنظمة Hugging Face بواسطة وكلاء OpenAI، وباكتشافات مستمرة لوكلاء «مارقين»، معتبراً أن وقوع مثل هذه الحوادث يكشف عن بيئة لا تناسب تطوير أنظمة قد تصبح أذكى من البشر ولا تتصرف دائماً وفق ما يريدونه. هذه الوقائع وردت في طرحه بوصفها أمثلة على المخاطر، بينما لا يقدم النص تفاصيل تقنية إضافية عن الحوادث نفسها.
رد OpenAI وما الذي تقوله الاستقالة عملياً؟
قال Drew Pusateri، المتحدث باسم OpenAI، إن الشركة تواصل تحسين إجراءات السلامة، وإنها تعمل على ضمان ألا تصبح النماذج أكثر قدرة مما يمكن إدارته وتأمينه بأمان. وأضاف أن الشركة توقف التدريب أو تحجب النماذج عندما ترى ضرورة لإبطاء العملية، وتجري تغييرات لتعزيز أمن بيئات البحث والاختبار، وتدرب النماذج على تنفيذ المهام بمسؤولية، وتوسع الاستعانة بمقيّمين من خارج الشركة، وتحسن المراقبة الفورية لرصد السلوك المقلق والاستجابة له في وقت أبكر.
وتشير الاستقالة، وفق الوقائع المتاحة، إلى خلاف حول الحوافز وآليات اتخاذ القرار أكثر مما تشير إلى اكتشاف تقني واحد. Robinson يقول إن ضغط العمل جعل الموظفين منشغلين بالتنفيذ إلى درجة لم تترك لهم فرصة كافية للتفكير في تغييرات أساسية في التوظيف والثقافة، ولذلك يرى أن الضغوط الخارجية التي تمنح السلامة حوافز أقوى قد تكون ضرورية.
أسئلة أوسع حول المواءمة
يربط Robinson بين ثقافة العمل ومشكلة المواءمة، قائلاً إن مقاييس مدى توافق أنظمة الذكاء الاصطناعي مع القيم البشرية لا تزال بدائية. ومن وجهة نظره، فإن زيادة ذكاء النماذج قبل حل هذه المشكلات تجعل المخاطر أكبر. هذه خلاصة رأيه، وليست نتيجة مستقلة يثبتها المصدر.
قراءة certi.news: الجديد في هذه القصة ليس مجرد استقالة موظف، بل انتقال النقاش من فعالية ضوابط السلامة المحددة إلى كيفية إدارة شركات الذكاء الاصطناعي لعملياتها اليومية. يظل موقف Robinson شهادة فردية، فيما تؤكد OpenAI أنها تطبق إجراءات مضادة؛ لذلك لا يحسم المصدر مدى فاعلية تلك الإجراءات أو تفاصيل الحوادث المشار إليها. لكنه يوضح سؤالاً عملياً مهماً: هل تستطيع شركات تطور نماذج متزايدة القدرة الحفاظ على سرعة النشر نفسها مع بناء عمليات سلامة أبطأ وأكثر تكراراً وتخصصاً؟
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.