الذكاء الاصطناعي

أوبن إيه آي تطلق مصنفاً بصرياً وإجراءات ردع في ChatGPT لمكافحة استغلال الأطفال

أعلنت أوبن إيه آي عن منظومة أدوات جديدة تشمل مصنفاً ذكياً لرصد صور استغلال الأطفال بما فيها المولدة بالذكاء الاصطناعي، وتطبيق تعليق فوري للحسابات المخالفة في ChatGPT لمدة 24 ساعة.

16 نوفمبر 2026
3 دقائق قراءة
1 قراءة
certi.news Editorial Team
أوبن إيه آي تطلق مصنفاً بصرياً وإجراءات ردع في ChatGPT لمكافحة استغلال الأطفال

أزاحت شركة أوبن إيه آي (OpenAI) الستار عن حزمة من التقنيات والإجراءات الرقابية الموجهة لمكافحة مواد الاعتداء الجنسي على الأطفال (CSAM)، وذلك في ظل تصاعد الضغوط القانونية والمجتمعية المرتبطة بأمان تطبيقات الذكاء الاصطناعي التوليدي ومخاطر إساءة استخدامها.

مصنف بصري متقدم لرصد المحتوى المولد رقمياً

قدمت الشركة نموذجاً تصنيفياً جديداً للصور يتمتع بالقدرة على اكتشاف الدلائل البصرية للاعتداء في المواد المصورة، بما في ذلك الصور التي تم توليدها بالكامل عبر أدوات الذكاء الاصطناعي والتي لم تُرصد من قبل في قواعد البيانات التقليدية. ويمنح النموذج كل صورة درجة تقييمية تساعد فرق المراجعة البشرية على تحديد الإجراءات الواجب اتخاذها بسرعة وكفاءة.

جرى تطوير هذا المصنف بالتعاون مع المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) في الولايات المتحدة، وتتيحه الشركة مجاناً عبر واجهة برمجة التطبيقات (API) لشركاء ومؤسسات محددة بالتعاون مع ائتلاف التقنية (Tech Coalition) ومنظمة ROOST. وأظهرت الاختبارات الأولية أن النظام قلص بنسبة 48% عدد الصور المشتبه بها خطأً مع الحفاظ على معدل الرصد الكامل للصور المسيئة، مما يرفع دقة البلاغات إلى الضعف ويخفف العبء التشغيلي عن كاهل المراجعين.

شاشات تحذير وتعليق فوري للحسابات في ChatGPT

إلى جانب البنية البرمجية الخلفية، أضافت أوبن إيه آي آليات وقائية مباشرة داخل منصة ChatGPT؛ حيث بات النظام يظهر شاشات تحذيرية فورية عند محاولة إدخال أوامر تسعى لإنشاء أو استعراض محتوى يمس الأطفال بصفة غير لائقة. وتتضمن الإجراءات الجديدة:

  • حظر الحساب تلقائياً لمدة 24 ساعة كإجراء إنذاري أول عند رصد محاولات إدخال هذه المطالبات.
  • توجيه المستخدمين نحو مصادر دعم متخصصة ومصممة لمساعدة الأفراد على التوقف عن السلوكيات الضارة.
  • إلغاء الحسابات نهائياً في حال تكرار المخالفات ومحاولات الالتفاف على القيود التقنية.

صُممت رسائل الردع بالتعاون مع خبراء ومؤسسات متخصصة، منها مؤسسة لوسي فيثفول (Lucy Faithfull Foundation) ومنظمة حماية الأطفال (Protect Children)، مع الاستناد إلى تقييمات بحثية مستقلة من جامعة تسمانيا لتحديد الأثر النفسي والردعي لتلك الرسائل.

إرشادات للمطورين وأدوات مساعدة لجهات إنفاذ القانون

لم تتوقف التدابير عند حدود منصة الدردشة، بل نشرت أوبن إيه آي دليلاً إرشادياً لمطوري التطبيقات الذين يستخدمون نماذجها البرمجية، لتوضيح كيفية دمج حلول حماية الأطفال وتسهيل الإبلاغ الآلي إلى مركز NCMEC. كما جهزت الشركة طواقم التحقيق الأمني في جهات إنفاذ القانون بإضافات برمجية وأدوات تحليل معقدة مدعومة بالذكاء الاصطناعي، إلى جانب برامج تدريبية ودليل ميداني للاستفادة من هذه الإمكانات في ملاحقة الجرائم الرقمية.

ما الذي تعنيه هذه الخطوة عملياً؟

تمثل هذه التحديثات محاولة مباشرة من أوبن إيه آي لمعالجة ثغرات السلامة البصرية، خصوصاً بعد تعرض نماذج منافسة مثل Grok لانتقادات لاذعة إثر توليد صور غير قانونية، وتزامناً مع دعاوى قضائية وتقارير أمنية صنفت بعض تقنيات الذكاء الاصطناعي كخطر على المراهقين. وتوضح هذه الخطوات انتقال الشركات من مجرد حجب الكلمات الدلالية إلى بناء أدوات مصنفات متعددة الوسائط ودمج جهات إنفاذ القانون مباشرة في حلقة الاستجابة الرقمية.

مصدر الخبر
كيف أعددنا هذا الخبر؟

اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة، لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة. اقرأ سياستنا التحريرية.

c
كاتب المقال

certi.news Editorial Team

certi.news Editorial Team

The certi.news editorial team monitors technical sources and reconstructs news, verifying facts and context prior to publication.

من نفس التصنيف

مقالات قد تهمك

عرض كل الأخبار