تسعى شركات تطوير وكلاء الذكاء الاصطناعي إلى جعل الخصوصية محوراً رئيسياً في المنافسة، في وقت تتطلب فيه هذه الأنظمة وصولاً واسعاً إلى بيانات المستخدمين وتنفيذ مهام نيابة عنهم. لكن تجربة Meta مع وكيلها Muse، ثم تقديم OpenAI لوكيل Dots بوصفه بديلاً أكثر أماناً، توضح أن الوعود وحدها لا تكفي لإثبات حماية البيانات.
من Muse إلى Dots
طرحت Meta وكيل Muse باعتباره خياراً أكثر أماناً من OpenClaw، وقالت إن بيانات المستخدمين تُخزن داخل آلة افتراضية آمنة، وصفتها الشركة بأنها حاسوب Linux معزولاً يضم متصفحاً ووحدة معالجة وذاكرة وتخزيناً. كما أعلنت Meta أنها تعتزم لاحقاً إضافة وسيلة تشفيرية قابلة للتحقق تمنعها من الوصول إلى البيانات الموجودة داخل الآلة الافتراضية.
لكن هذا العزل لم يمنع Meta نفسها من الوصول إلى البيانات في الوضع الحالي. كما كشف باحث أمني ثغرة يوم-صفر كان يمكن أن تتيح السيطرة على Muse، قبل إصلاحها، فيما أُبلغ عن مشكلات أمنية خطيرة ظهرت قبيل الإطلاق، شملت ثغرة كان من الممكن أن تتيح الوصول إلى قواعد بيانات داخلية لدى Meta.
وسجلت Muse نمواً سريعاً، إذ بلغت 600 ألف مستخدم نشط يومياً في الولايات المتحدة خلال أسابيع، وفق Apptopia، وتصدرت قوائم متجر التطبيقات. غير أن الانتشار السريع لم يبدد المخاوف المتعلقة بسلوك الوكيل تجاه البيانات.
ما الذي أثار مخاوف الخصوصية؟
يتيح Muse افتراضياً استخدام ما يدخله المستخدمون لتدريب نماذج Meta، مع توفير خيار الانسحاب. كما تحدثت تقارير عن قراءة الوكيل رسائل خاصة ورفعها، وعن تقديم عنوان مستخدم إلى شخص غريب عبر Marketplace. وفي حالات أخرى، أنشأ النظام ملفات تعريف تفصيلية لأصدقاء المستخدمين وأفراد عائلاتهم. وتكمن المشكلة هنا ليس فقط في وجود عيب برمجي، بل في أن النظام قد ينفذ ما صُمم للقيام به بطريقة لا يدرك المستخدم نطاقها.
وتوضح هذه الحالات أن حماية الخصوصية في الوكلاء لا تتعلق بعزل البيانات تقنياً فحسب، بل أيضاً بحدود الصلاحيات، ووضوح الموافقات، وما إذا كان المستخدم يفهم مسبقاً ما يستطيع الوكيل قراءته أو مشاركته.
وعود OpenAI وضوابط Dots
استفادت OpenAI من هذه الانتقادات عند إعلان Dots في سبتمبر. وخلال DevDay، عرضت الشركة إمكانات تحكم فردية، مثل وضع قاعدة تمنع الوكيل من إجراء عمليات شراء تتجاوز مبلغاً محدداً. كما قدمت للشركات إطاراً يتضمن ضوابط أقوى على البيانات وخيارات لسياسة عدم الاحتفاظ بالبيانات، بحيث لا تُخزن المعلومات على خوادم OpenAI.
وقال مسؤولون في OpenAI إن الشركة تسعى إلى تقديم مساعد موثوق وآمن، وإن حجم قاعدة مستخدمي Meta يجعل أخطاء من هذا النوع أكثر خطورة. لكن غياب فضائح خصوصية واسعة مرتبطة بـ Dots حتى الآن يجب قراءته بحذر؛ فالوكيل متاح فقط ضمن خطط ChatGPT التي تبدأ من 100 دولار، ما يعني أن قاعدة مستخدميه المحتملة أصغر.
لماذا يهم هذا الخبر؟
يحتاج وكلاء الذكاء الاصطناعي إلى بيانات أكثر من أدوات الدردشة التقليدية كي ينفذوا مهاماً مثل إدارة الرسائل أو المشتريات أو التعامل مع الحسابات. لذلك فإن معيار الخصوصية الحقيقي لا ينبغي أن يكون تصريح الشركة، بل قدرة المستخدم على معرفة ما يصل إليه الوكيل، وتقييد أفعاله، ومنع الشركة نفسها أو أطراف خارجية من استخدام البيانات خارج الغرض المتوقع.
وتبقى أسئلة أساسية مفتوحة: هل تكون الموافقات مفهومة بما يكفي؟ هل تعمل ضوابط عدم الاحتفاظ كما هو معلن؟ وما آلية التحقق المستقل من عزل البيانات؟ كما تُظهر حالة Instinct، التي تعرضت لانتقادات بسبب شروط خدمة منحتها وصولاً واسعاً إلى البيانات قبل إجراء تعديلات لاحقة، أن الشروط القانونية وتجربة الاستخدام جزء من نموذج الأمان، وليسا تفصيلاً ثانوياً.
الخلاصة التي تفرضها المقارنة بين Muse وDots هي أن سوق وكلاء الذكاء الاصطناعي يحاول بناء الثقة عبر ثلاث وعود متزامنة: فائدة عملية، وتجربة أقل إثارة للقلق، وحماية للخصوصية. لكن الثقة ستتحدد في النهاية بمدى قابلية هذه الوعود للقياس والتحقق، لا بمدى تكرارها في عروض الإطلاق.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.