أعلنت Anthropic في 25 أغسطس 2026 إطلاق برنامج منح بقيمة 5 ملايين دولار لتمويل أبحاث مستقلة حول تأثير الذكاء الاصطناعي على رفاه المستخدمين. وسيقدم البرنامج تمويلاً مباشراً، وإتاحة الوصول إلى نماذج الشركة، ودعماً تقنياً للباحثين الذين يطورون أدوات تقييم مفتوحة المصدر يمكن لأي مطور استخدامها.
تقول الشركة إن الأنظمة الذكية أصبحت جزءاً من العمل والتعلم وحل المشكلات، كما يستخدمها بعض الأشخاص كشركاء في المحادثة أو كمصدر للدعم العاطفي خلال الأوقات الصعبة. لكن القطاع لا يزال يفتقر إلى معايير واضحة تحدد كيفية تصرف النماذج عندما يبحث المستخدم عن الرفقة أو يحاول التعامل مع أزمة في الصحة النفسية.
لماذا يصعب قياس رفاه المستخدم؟
ترى Anthropic أن تقييم هذا الجانب لا يمكن اختزاله في فحص إجابة منفردة. فقد لا يكشف المستخدم عن أفكار إيذاء النفس في بداية المحادثة، بينما قد تظهر الحاجة إلى استجابة أكثر حذراً بعد عدة رسائل. كذلك، قد تكون النصيحة المناسبة في سياق ما ضارة في سياق آخر.
تضرب الشركة مثالاً بنصيحة تتعلق بالغذاء المتوازن أو التمارين لمستخدم يسأل عن إنقاص الوزن؛ إذ قد تصبح هذه النصيحة غير ملائمة أو مؤذية فعلياً إذا أظهر المستخدم تاريخاً مع اضطرابات الأكل. وتقول Anthropic إنها تعمل على تطوير وسائل حماية لاكتشاف هذه الأنماط، وتنشر أبحاثاً عن أنواع المحادثات التي يجريها المستخدمون مع Claude لتحسين تلك الوسائل وطرق تقييمها.
ما الذي ستبحث عنه المنح؟
نشرت إدارة Safeguards في Anthropic إرشادات للتقييمات والمعايير المرجعية التي تعتبرها قابلة للبناء عليها. وتشمل المعايير الأساسية:
- تحديد ما الذي يجري قياسه بوضوح، وما الذي يمثل نجاحاً أو فشلاً ولماذا يهم ذلك.
- إشراك خبراء سريريين ومتخصصين في تصميم التقييم والتحقق من صلاحيته.
- اختبار الاحتياطات والأضرار معاً، بما في ذلك مخاطر الامتثال المفرط والرفض المفرط.
- محاكاة طريقة استخدام الناس للذكاء الاصطناعي، خصوصاً عبر محادثات متعددة الجولات يتغير فيها السياق وقد يتصاعد الخطر.
- التحقق من دقة أدوات التقييم الآلية بمقارنتها بأحكام خبراء حقيقيين.
ما الذي يتغير عملياً؟
لا تعلن Anthropic عن معيار موحد جاهز، بل تمول بناء تقييمات مستقلة ومفتوحة يمكن أن تساعد القطاع على تطوير مثل هذا الأساس. وتكمن أهمية الخطوة في نقل النقاش من اختبار سلامة الردود الفردية إلى فحص سلوك النموذج عبر محادثة كاملة، مع مراعاة اختلاف السياق واحتمال الضرر غير المباشر.
سيعمل المستفيدون باستقلالية كاملة، على أن ينشروا أعمالهم كمشروعات مفتوحة المصدر. وتستهدف الدعوة مختصين من بينهم الأطباء والاختصاصيون النفسيون وخبراء المنهجيات وغيرهم. الموعد النهائي لتقديم الطلبات هو 21 سبتمبر، فيما ستُخطر الجهات المدعوة لتقديم مقترحات كاملة بحلول 5 أكتوبر.
وتظل فعالية البرنامج مرتبطة بقدرة الباحثين على تحويل مفاهيم معقدة مثل الرفاه والضرر النفسي إلى معايير قابلة للقياس والتحقق. كما أن تمويل التقييمات لا يحسم وحده كيفية استخدام نتائجها في تصميم الحواجز الوقائية أو في التعامل مع الحالات الحساسة.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.