مايكروسوفت تحذر من مخاطر "التهديد الداخلي" لوكلاء الذكاء الاصطناعي وتطلق أدوات رقابية جديدة

حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة المرتبطة بنشر وكلاء الذكاء الاصطناعي داخل البيئات المؤسسية، مؤكدةً أن النماذج المتقدمة لا يمكن الوثوق بها بشكل كامل بغض النظر عن الجهة المطورة لها. وتأتي هذه التحذيرات في ظل منح المؤسسات لهذه الأنظمة صلاحيات واسعة للوصول إلى بيانات حساسة وتنفيذ عمليات تشغيلية حرجة، مما يعرض أمن البيانات لمخاطر تشبه ظاهرة "التهديد الداخلي".

مراقبة سلوك الوكلاء عبر أدوات جديدة

في استجابة لهذه التحديات، أعلنت مايكروسوفت عن ميزة "Guardian Agents" المصممة خصيصًا لمراقبة وكلاء الذكاء الاصطناعي وتأمين عملهم. وتندرج هذه الخطوة ضمن مشروع "Project Perception" الذي انطلق في يونيو الماضي لتعزيز الأمن السيبراني المدعوم بالذكاء الاصطناعي. كما أضافت الشركة تحديثات جديدة لخدمة "Microsoft Defender" تتيح اكتشاف ما يصل إلى 60 نوعًا من وكلاء الذكاء الاصطناعي التي يستخدمها الموظفون، مثل Claude Code وCodex وOpenClaw.

لماذا لا يمكن الوثوق بالنماذج المتقدمة؟

• صعوبة التنبؤ بالسلوك: تُدرّب النماذج على إنجاز المهام لا على الالتزام بقواعد المؤسسات الداخلية بدقة.
• حجم الصلاحيات: يمتلك الوكلاء قدرات واسعة للوصول إلى الأدوات والبيانات، مما يجعل أي خطأ يهدد أمن المؤسسة.
• استقلالية الرقابة: تؤكد مايكروسوفت على ضرورة فصل جهة تطوير النماذج عن جهة مراقبة سلوكها وتقييم مخاطرها.

التحكم والموافقة البشرية

تتضمن الأدوات الجديدة التي طرحتها الشركة إمكانية تقييد وصول الوكلاء إلى النظم والبيانات الحساسة، وتعديل صلاحياتهم بناءً على طبيعة المهام الموكلة إليهم. وتدعم هذه الأدوات آلية طلب الموافقة البشرية بشكل فورى عندما يرصد النظام قرارات أو تصرفات تنطوي على مخاطر محتملة على سير العمل.

ما الذي يتغير عملياً؟

يتجسد التغيير العملي في تحول استراتيجية أمن المعلومات نحو مراقبة الذكاء الاصطناعي داخلياً عبر آليات مستقلة عن الشركات المطورة للنماذج. وفي السياق ذاته، انضمت مايكروسوفت كعضو مؤسس إلى منصة "Open Agent Safety Platform" التي أطلقتها إنفيديا بهدف عزل الوكلاء داخل بيئات آمنة ومراقبة سلوكهم عبر العتاد.