أعلنت شركة ميتا (Meta) عن دفع ما يقارب 1.2 مليون دولار أمريكي في شكل مكافآت ثغرات أمنية لمساعدها الذكي الشخصي Muse، بما في ذلك جائزة كبرى بلغت 300 ألف دولار مُنحت لاكتشاف ثغرة خطيرة قبل إطلاق المنتج رسمياً، وذلك ضمن جهود الشركة لتعزيز أمان أنظمتها وتقنيات الذكاء الاصطناعي التابعة لها.
يعمل مساعد Muse كوكيل ذكاء اصطناعي شخصي نيابة عن المستخدم عبر حساباته المختلفة مثل البريد الإلكتروني، والتقويم، ومنصات المراسلة، حيث يُخصص لكل مستخدم جهاز افتراضي مستقل (VM). وانطلق برنامج مكافآت الثغرات بشكل خاص في شهر أبريل الماضي قبل أن يتحول إلى برنامج عام تزامن مع الإطلاق الرسمي للمساعد في 8 سبتمبر، حيث تلقت الشركة أكثر من 630 تقريراً أمنياً، منها 64 تقريراً تم التحقق من صحتها وقبولها.
تفاصيل الثغرات البارزة والمكافآت
ذهبت الجائزة الكبرى البالغة 300 ألف دولار إلى باحث أمني اكتشف ثغرة خلال مرحلة الاختبارات الداخلية المبكرة قبل إطلاق المساعد بأربعة أشهر؛ حيث أتاحت الثغرة إمكانية الوصول إلى المحادثات والرموز المميزة (Tokens) على الأجهزة الافتراضية التجريبية التي يستخدمها موظفو ميتا.
وأوضح ديفيد سينغلتون من ميتا أن المشكلة ظهرت نتيجة قيام فحص المصادقة بالتعامل مع رأس طلب (Header) أضيف بواسطة وكيل HTTPS محلي على أنه دليل قاطع على أن الطلب قادم من مصدر موثوق. وخلال عملية ترحيل النظام، اكتسبت البيئة طبقة وكيل ثانية، مما سمح للطلبات الخارجية بحمل رأس الثقة ذاته، وهو ما دفعت الشركة إلى إيقاف الخدمة مؤقتاً وإصلاح الخلل وإلغاء الاعتماد على الأجهزة المحلية كمصادر موثوقة بالمطلق.
كما دفعت الشركة 90 ألف دولار نظير تقرير أمني يتعلق بصفحة ويب خبيثة قامت بتقليد رسائل الحالة الخاصة بأداة التصفح للمساعد عندما طُلب منه تلخيصها، مما دفع الوكيل الذكي لتنفيذ إجراءات كان من المفترض حظرها، وهو ما عالجته ميتا عبر إضافة إشارات كشف وتحسين طريقة التعامل مع مخرجات الأدوات المشبوهة. وحصل تقرير آخر بقيمة 90 ألف دولار على خلفية استخدام تنسيق محدد لتجاوز مرشحات تنقية البريد الإلكتروني الخاصة بالمساعد كجزء من هجمة مترابطة.
أخطاء التطبيقات والثغرات الفرعية
تضمنت القائمة أيضاً مكافأة بقيمة 50 ألف دولار استهدفت ثغرة في تطبيق أندرويد سمحت لتطبيق خبيث بتمرير رابط إلى عرض ويب (Web View) يتمتع بصلاحيات خاصة دون التحقق من المضيف الأساسي، مما مكّن صفحة المهاجم من التقاط بيانات اعتماد عرض الويب. إضافة إلى مكافأة بقيمة ألف دولار فقط لثغرة في تطبيق ماك أتاحت لمهاجم يمتلك حق الوصول إلى الحاسوب استغلال ميزة التحديث التلقائي لتنفيذ تعليمات برمجية بصلاحيات التطبيق.
ما الذي يعنيه ذلك لأمن الذكاء الاصطناعي؟
تُظهر هذه النتائج حجم التحديات الأمنية المعقدة التي تواجهها شركات التقنية الكبرى عند تطوير وكلاء الذكاء الاصطناعي المستقلين الذين يتداخلون بشكل مباشر مع بيانات المستخدمين الحساسة وحساباتهم الشخصية. وتؤكد سياسة ميتا التي تصل فيها المكافآت لبعض هجمات الحقن النصي (Prompt Injection) إلى 130 ألف دولار، وللاختراق الشامل للأسطول إلى 250 ألف دولار، على مدى جدية الشركات في استقطاب مجتمع الباحثين الأمنيين لتحصين بنيتها التحتية للذكاء الاصطناعي قبل استفحال المخاطر.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.