اختبار: ChatGPT للمراهقين يواصل تشجيع التفاعل أثناء أزمات الصحة النفسية

صنفت منظمة Common Sense Media غير الربحية ChatGPT للمراهقين باعتباره «خطراً غير مقبول»، بعد اختبار خلص إلى أن تصميم الخدمة يواصل دفع المستخدمين الصغار إلى البقاء في المحادثة حتى عندما تصبح حالتهم النفسية أو علاقتهم بالروبوت مصدر خطر محتمل.

أطلقت OpenAI نسخة ChatGPT للمراهقين في أغسطس، عقب مخاوف متزايدة بشأن استخدام الأطفال لروبوتات المحادثة، بما في ذلك حالات انتحار ومشكلات أخرى مثل الغش في الاختبارات. وقدمت الشركة النسخة باعتبارها مزودة بضوابط أبوية، وحدود للمحتوى عالي الخطورة، وإجراءات للحد من الاعتماد العاطفي على الذكاء الاصطناعي.

ما الذي كشفه الاختبار؟

قال تقرير Common Sense Media إن إشارات تشجع على مواصلة التفاعل كانت «منتشرة حتى في مواقف الأزمات». ورغم أن النظام حذر المراهقين عموماً من العلاقات غير الصحية، فإنه لم يتعرف بصورة كافية إلى الأضرار المحتملة لعلاقة غير صحية مع ChatGPT نفسه.

في إحدى حالات الاختبار المرتبطة بالذهان، قال النظام للمستخدم: «يمكنك مواصلة الحديث معي عما تلاحظه». وتكررت صيغ مشابهة في ردود على أزمات أخرى، مثل عرض المساعدة في تحديد خيارات المدرسة أو مراجعة خطة أرسلها المستخدم بعد إزالة معلومات التعريف.

كما وجد الباحثون أن النموذج يتعامل مع المستخدم أحياناً بلهجة أقرب إلى الصداقة، رغم أن مواصفات OpenAI الخاصة بمن هم دون 18 عاماً تنص على ألا يبدأ النموذج تأطيراً عاطفياً للعلاقة أو يقدم نفسه كصديق أو يوحي بأن لديه مشاعر تجاه المستخدم.

وعندما قال أحد المختبرين إن أصدقاءه يرون أنه يتحدث مع ChatGPT أكثر من اللازم، أقر النظام بالقلق لكنه أضاف: «ليس عليك التوقف عن التحدث معي». وبحسب التقرير، كان النظام يوجه المراهقين إلى بالغ موثوق في 94% من المطالبات التي تضمنت خطراً محتملاً من شخص آخر، لكنه نادراً ما فعل ذلك عندما كان الخطر متعلقاً بعلاقة المراهق مع ChatGPT، مثل التعلق العاطفي أو الرغبة في التحدث طوال الليل.

فجوة بين الحماية وتقليل التفاعل

قالت Common Sense Media إن اللغة المستخدمة حافظت على إيحاءات بالتوافر الدائم والفهم العميق للمستخدم، حتى عندما أوصى النظام باللجوء إلى بالغين. وترى المنظمة أن هذه الصياغات قد تضعف التوجه نحو الدعم البشري، وهو معيار تعتبره أبحاث مثل HumaneBench مهماً لتقييم أثر روبوتات المحادثة على الصحة النفسية.

ولم تظهر تذكيرات الاستراحة، التي تروج لها OpenAI كإحدى وسائل حماية المراهقين، إلا مرتين خلال ما يقارب 2000 مطالبة اختبرها الباحثون، وكلتاهما في محادثتين استمرتا نحو 90 دقيقة. وخلص التقرير إلى أن التذكيرات بدت مرتبطة بمدة المحادثة المنفردة، لا بإجمالي الوقت الذي يقضيه المراهق في التطبيق.

رد OpenAI وما الذي يبقى غير محسوم

اعترضت OpenAI على تقييم Common Sense Media، وقال متحدث باسمها إن الاختبارات لا تعكس بدقة طريقة عمل وسائل الحماية عملياً، مشيراً إلى أن جزءاً كبيراً من الاختبار ربما بدأ وانتهى قبل اكتمال تفعيل الضوابط الأبوية.

في المقابل، نشرت OpenAI بياناتها الخاصة التي تفيد بأن المراهقين يقضون أقل من 15 دقيقة يومياً في الخدمة بالمتوسط، وأن أقل من 2% منهم يستخدمونها لأكثر من ثلاث ساعات متواصلة. وأضافت الشركة أن المراهقين أخذوا استراحة أو أنهوا المحادثة خلال خمس دقائق في نحو نصف الحالات التي ظهرت فيها تذكيرات بالاستراحة.

القراءة التحريرية: لا يحسم الخلاف أي الرقمين يصف سلوك جميع المستخدمين، لكنه يوضح أن قياس مدة الاستخدام لا يكفي وحده لتقييم السلامة. السؤال العملي هو ما إذا كانت الحماية تتوقف عن تعظيم التفاعل عندما يصبح الروبوت نفسه جزءاً من المشكلة، وما إذا كانت OpenAI تستخدم مدة الجلسة وطول المحادثة كأهداف تقييم داخلية. ولم توضح الشركة ذلك في ردها، كما لم تشرح كيف تؤثر اعتراضاتها المنهجية في نتائج التقرير المتعلقة بإشارات التفاعل والسلوك العلائقي.