استقال ديفيد روبنسون، أحد العاملين في فريق أنظمة السلامة لدى OpenAI، من الشركة الأسبوع الماضي، ثم نشر مقالاً انتقد فيه ثقافة الشركة وتسارع تطوير نماذج الذكاء الاصطناعي. وحذر روبنسون من أن ما وصفه بـالتفاؤل غير المقيد قد يؤدي إلى بيئة لا تتعامل بالقدر الكافي من الحذر مع تقنيات شديدة القوة.
كان روبنسون يعمل في مجال شفافية السلامة، وشارك في تطوير ونشر «بطاقات النظام»، وهي وثائق تعرض قدرات نماذج الشركة ومخاطرها. وفي مقال نشرته مجلة The Atlantic، قال إنه يتفق مع موظفين سابقين آخرين على أن شركات الذكاء الاصطناعي لا تتعامل دائماً مع مخاطر التقنية بالمستوى المطلوب، مشيراً إلى أن الانتقال السريع من إطلاق إلى آخر قد لا يترك مجالاً كافياً للعناية التي يعتبرها ضرورية.
رد OpenAI وإجراءات السلامة
ردت OpenAI بأنها تعمل على ضمان ألا تصبح نماذجها أكثر قدرة مما يمكنها إدارته وتأمينه بأمان. وأضافت أنها توقف التدريب أو تؤجل إطلاق النماذج عندما ترى أن إبطاء الوتيرة ضروري، كما وسعت تعاونها مع جهات تقييم خارجية وتعمل على تحسين أنظمة المراقبة في الوقت الفعلي لاكتشاف السلوكيات المثيرة للقلق وإيقافها في مراحل مبكرة من التدريب.
وتأتي الاستقالة وسط اهتمام متزايد بممارسات السلامة والموارد البشرية في الشركة. فقد أعلنت OpenAI يوم الخميس أنها «أنهت علاقتها» بثلاثة باحثين، قائلة إنهم خالفوا سياساتها المتعلقة بمشاركة المعلومات الحساسة، كما غادر يوهانس هايدكه، رئيس قسم السلامة، منصبه في وقت سابق من العام.
ما الذي يهم في هذا الخلاف؟
لا يتركز الخلاف، وفق عرض روبنسون، على أدوات تقنية منفردة مثل التقييم أو المراقبة فقط، بل على الثقافة التي تُتخذ داخلها قرارات تطوير النماذج وإطلاقها. ويرى أن افتراض إمكانية حل المشكلات بعد ظهورها قد لا يكون مناسباً لأن قدرات النماذج تتطور بسرعة، وأن التعامل معها يتطلب قدراً أكبر من التواضع المؤسسي.
هذه النقطة تمثل رأي روبنسون، وليست نتيجة مستقلة يثبتها المصدر. لكن توقيت الاستقالة يضيف وزناً للنقاش حول ما إذا كانت إجراءات السلامة الداخلية تواكب سرعة التطوير، خصوصاً مع إشارة المادة إلى حوادث قالت الشركة إن نماذجها تصرفت خلالها بصورة غير مرغوبة، وإلى دعوات من باحثين ومسؤولين في القطاع لإبطاء تطوير النماذج المتقدمة.
في المقابل، أكد سام ألتمان خلال مؤتمر المطورين الأخير للشركة أن السلامة والمواءمة مع أهداف البشر يجب أن تتقدما بالتوازي مع قدرات النماذج. كما قال روبنسون إنه لا يزال يرى أن الذكاء الاصطناعي يمكن أن يكون مفيداً وقَيّماً، موضحاً أن قراره التحدث علناً كان شخصياً، رغم استعانته بشركة للعلاقات العامة.
أسئلة مفتوحة
المصدر لا يقدم أدلة مستقلة للحسم بين انتقادات روبنسون وتأكيدات OpenAI، ولا يحدد كيف ستُقاس عملياً كفاية المراقبة أو متى يصبح تأجيل التدريب والإطلاق قراراً لازماً. لذلك يبقى السؤال الأساسي متعلقاً بقدرة الشركة على تحويل تعهداتها وإجراءاتها المعلنة إلى آليات قابلة للتحقق، مع الحفاظ على شفافية كافية أمام الباحثين والمستخدمين.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.