تبدأ OpenAI خلال الأسابيع المقبلة إضافة علامة مائية غير مرئية إلى النصوص التي ينتجها ChatGPT وCodex للمستخدمين المؤهلين داخل الاتحاد الأوروبي، في خطوة تهدف إلى الامتثال لقواعد الشفافية الواردة في قانون الذكاء الاصطناعي الأوروبي. وسيشمل الإطلاق جميع الخطط، بينما لن يتحول وسم النصوص إلى إعداد افتراضي عالمي عند البداية.
دخلت قواعد الشفافية حيز التطبيق في 2 أغسطس، وتلزم شركات الذكاء الاصطناعي بتمييز المحتوى المُنتج آلياً بطريقة تمكّن الأنظمة الأخرى من التعرف إليه. وفي المقابل، يستطيع المطورون الذين يستخدمون واجهة OpenAI البرمجية في أي مكان حول العالم تفعيل الميزة على نماذج محددة بدءاً من الآن، لكنها معطلة افتراضياً.
كيف تعمل العلامة المائية؟
لا تظهر العلامة على شكل رمز أو تنبيه مرئي، بل تُنشأ عبر تعديل دقيق لاختيارات الكلمات التي يقترحها النموذج. ويترك هذا التعديل نمطاً يمكن لأداة كشف متخصصة رصده، كما يبقى النمط داخل النص عند نسخه ولصقه. وتقول OpenAI إن العلامة لا تكشف هوية المستخدم، وإن تفعيلها لم يُحدث تغييراً ذا معنى في أداء النماذج خلال اختبارات الشركة.
نشرت OpenAI بالتزامن تقريراً تقنياً عن طريقتها، التي تحمل اسم textGrain، وأعده باحثون من الشركة وجامعتي بنسلفانيا وييل. وتعتمد الطريقة، وفق التقرير، على استخدام مفتاح سري لترتيب احتمالات الكلمات التالية أثناء إكمال الجمل، ثم تجميع مئات هذه التعديلات حتى يتمكن الكاشف من رصد النمط باستخدام النص والمفتاح.
حدود الكشف بعد التحرير
لا تقدم العلامة المائية دليلاً حاسماً على مصدر النص في كل الحالات. ففي اختبار أجرته OpenAI، أدى استبدال 10% من الكلمات بمرادفات إلى خفض معدل الكشف من نحو 92% إلى 66%. كما وجدت الشركة أن المقاطع القصيرة والإجابات الرياضية والنصوص المترجمة أصعب في الكشف.
وتحذر OpenAI من أن غياب العلامة لا يثبت أن النص كتبه إنسان؛ فقد يكون النص قصيراً جداً، أو تعرض لتحرير كثيف، أو يكون ناتجاً عن نظام ذكاء اصطناعي تابع لشركة أخرى. كما أن وجود العلامة قد يشير إلى أن نظاماً من OpenAI أنشأ جزءاً من المقطع أو عالجه، لكنه لا يحدد مقدار الحكم البشري أو التحرير أو الإبداع الذي دخل في إنتاجه.
لماذا يهم هذا الخبر؟
يمنح الإطلاق المؤسسات الأوروبية وسيلة تقنية إضافية لفحص محتوى ChatGPT وCodex، لكنه لا يحل وحده مشكلة إثبات مصدر النص. فالقابلية للتأثر بالتحرير والترجمة وطول النص تعني أن نتائج الكشف تحتاج إلى تفسير حذر، وهو ما دفع OpenAI إلى قصر الوصول الأولي إلى أدوات الكشف على باحثين معتمدين ومنظمات متخصصة لتقييم موثوقيتها واستخداماتها المسؤولة.
تأتي الخطوة بعد إعلان Anthropic قبل شهرين عن وسم النصوص التي ينتجها Claude على مستوى العالم، وهو قرار واجه اعتراضات من بعض المستخدمين الذين رأوا أن مساهمتهم في التعليمات والسياق والقرارات تجعل Claude أداة لا مؤلفاً. وكانت OpenAI قد طورت تقنية سابقة لوسم النصوص لكنها أحجمت عن إطلاقها، وسط مخاوف من انتقال المستخدمين إلى منافسين لا يستخدمون الوسم، وفق تقرير نشرته The Wall Street Journal في 2024.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.