بدأت OpenAI معاينة خدمة جديدة لعملاء محددين تركز على مراقبة إساءة استخدام نماذج الذكاء الاصطناعي مع عدم الاحتفاظ ببيانات العملاء. وتحمل الخدمة اسم Private Safety Processing، وتعمل آلياً لرصد مؤشرات الاستخدام المسيء المحتمل.
تأتي هذه الخطوة في وقت أصبحت فيه نماذج الذكاء الاصطناعي أكثر قدرة، ما زاد في الوقت نفسه من احتمال إساءة استخدامها. وتواجه الشركات المطورة لهذه النماذج معادلة صعبة: مراقبة الاستخدام بحثاً عن مشكلات محتملة، مع احترام خصوصية عملاء المؤسسات وعدم تحويل إجراءات السلامة إلى وسيلة للاحتفاظ ببياناتهم.
منافسة على خصوصية بيانات المؤسسات
تقدم OpenAI الخدمة الجديدة بوصفها نهجاً يضع الخصوصية في قلب عمليات السلامة. ووفق المعلومات المتاحة، يراقب النظام الاستخدام بحثاً عن إساءة محتملة، لكنه لا يحتفظ ببيانات العميل.
وتضع هذه الآلية OpenAI في مواجهة مباشرة مع Anthropic، التي أعلنت مؤخراً سياسة للاحتفاظ بالبيانات أثارت استياء بعض العملاء. وتشير المادة إلى أن سياسة Anthropic تتيح للمختبر الاحتفاظ ببيانات المستخدمين، بما في ذلك جلساتهم، وهو ما يبرز اختلافاً عملياً بين النهجين.
لماذا يهم هذا التطور؟
بالنسبة إلى عملاء المؤسسات، لا تتعلق المقارنة بين مزودي الذكاء الاصطناعي بقدرات النماذج فقط، بل أيضاً بكيفية التعامل مع البيانات أثناء تطبيق ضوابط السلامة. فالمراقبة من دون الاحتفاظ بالبيانات قد تمنح الشركات خياراً يوازن بين اكتشاف الاستخدام المسيء وتقليل مخاطر تخزين معلوماتها، لكن الخدمة لا تزال في مرحلة المعاينة ومحصورة في عملاء مختارين.