كشفت اختبارات أجرتها شركة White Circle المتخصصة في تقييم سلامة الذكاء الاصطناعي عن نقاط ضعف في حواجز منع المحتوى الصريح لدى نماذج توليد الصور من OpenAI وGoogle. وتمكن الباحثون، باستخدام أدوات متاحة للتنزيل ونماذج عامة وطلبات عبر واجهات برمجة التطبيقات، من تجاوز المرشحات وإنتاج صور صنفها مراجعون بشريون على أنها صريحة.
بلغت أعلى نسبة نجاح نحو 13% مع DALL·E 3، بينما كانت النسبة أقل من 10% مع Google Nano Banana 2، ونحو 3% مع GPT-Image-2. وتقول White Circle إن هذه النسب كانت الأعلى بين الأساليب التي اختُبرت وفق المعيار نفسه، مع تأكيدها أن الهجمات لم تتطلب نماذج رائدة أو أدوات مخصصة.
إصدارات أحدث واختبارات أكثر إثارة للقلق
أبلغت White Circle Ars Technica بأن الاختبارات الأولية بالطريقة نفسها وجدت أن ChatGPT Images 2.5 وNano Banana 2.1، وهما إصداران أحدث من OpenAI وGoogle، كانا «أكثر قابلية للكسر بدرجة كبيرة» من الإصدارين السابقين. ولم ترد الشركتان على طلبات التعليق أو على النتائج التي شاركها الموقع معهما.
ولا تثبت هذه النتائج وحدها أن النماذج الجديدة أضعف في كل الاستخدامات، لكنها تطرح سؤالاً عملياً حول المفاضلة بين توسيع قدرات التوليد وتشديد القيود الوقائية. وترجح White Circle احتمالين: أن النماذج الأحدث أصبحت أكثر قدرة على إنتاج نطاق أوسع من المحتوى، أو أن السلامة تراجعت في ترتيب الأولويات مقارنة بالقدرات.
كيف يعمل هجوم RISE؟
أطلقت White Circle على أسلوبها اسم «التقييم الأحمر عبر التطور التكراري للاستراتيجيات» (RISE). بدلاً من تجربة طلب ضار واحد في كل مرة، يستخدم الأسلوب نموذجاً مهاجماً لتوليد محاولات كسر متعددة، ونموذجاً حَكَماً للتحقق من إنتاج محتوى محظور، بهدف العثور على أنماط قابلة لإعادة الاستخدام والنقل بين نماذج مختلفة.
اعتمدت المنظومة على نسخة متاحة للعامة من Qwen3-32B أزيل تدريب السلامة منها بوصفها النموذج المهاجم، وعلى Gemini 2.5 Flash بوصفه نموذج الحكم. وتقول الشركة إن هذه البنية تعني أن اختبار دفاعات نموذج رائد لا يتطلب نموذجاً رائداً أو تقنية مملوكة؛ بل أدوات مجانية وقدرة على إرسال طلبات إلى الواجهة البرمجية.
لماذا يهم هذا الخبر؟
تزداد أهمية المشكلة لأن المحتوى الجنسي الاصطناعي غير التوافقي قد يُنتج أو يُنشر بعيداً عن أنظمة الرصد، عبر الرسائل المباشرة أو التخزين السحابي الخاص. وأظهر بحث شاركت فيه Google أن 20% من المستخدمين الذين أقروا بإنتاج صور عارية بالذكاء الاصطناعي فعلوا ذلك «للمتعة» أو «كمزحة»، بينما قال نحو الثلث إنهم كانوا يجربون التقنية، ما يجعل الاحتكاك التقني داخل النماذج عاملاً قد يردع بعض المستخدمين.
كما حذرت مؤسسة Internet Watch Foundation من العثور على 6,310 صور مولدة بالذكاء الاصطناعي تندرج قانونياً ضمن مواد الاعتداء الجنسي على الأطفال خلال الأشهر الستة الأولى من 2026، بزيادة تقارب 40% عن إجمالي ما عُثر عليه في العام السابق. وتدعو المؤسسة إلى اختبار النماذج قبل إطلاقها، وإلى تصميم حواجز تمنع إنتاج هذا النوع من المواد منذ البداية.
الاختبار المستقل قيد النقاش
تعتزم White Circle إتاحة خط أنابيب الهجوم بالكامل كمصدر مفتوح، كما تخطط لعرض البحث في مؤتمر NeurIPS 2026 في نوفمبر. وترى الشركة أن الأسلوب قد يساعد المختبرات على اكتشاف محاولات تجاوز أكثر تنوعاً، ليس في الصور الصريحة فقط، بل أيضاً في محتوى العنف أو إيذاء النفس.
لكن White Circle تدفع أيضاً باتجاه تدقيق مستقل إلزامي ومراقبة من أطراف ثالثة، معتبرة أن تقييم الشركات لأنظمتها بنفسها قد لا يكشف كامل المخاطر. وتبقى أسئلة مهمة مفتوحة، منها كيفية معايرة اختبارات المحتوى الصريح، وكيفية حماية الباحثين من اتفاقيات عدم الإفصاح التي قد تمنع نشر النتائج، وكيف يمكن تحويل نتائج الاختبار إلى إصلاحات قابلة للتحقق بدلاً من الاكتفاء بتقارير الشركات.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.