مايكروسوفت تطلق ضوابط أمنية صارمة لمواجهة مخاطر "وكلاء الذكاء الاصطناعي" المتمردين

كشفت شركة مايكروسوفت عن مجموعة جديدة من الضوابط الأمنية المصممة لمراقبة وتقييد "وكلاء الذكاء الاصطناعي" (AI Agents) داخل بيئات العمل المؤسسية. وتتبنى الشركة في هذا التوجه فلسفة أمنية جديدة تقضي بالتعامل مع هذه الوكلاء كـ "أطراف داخلية" (Insiders) قد تشكل خطراً، بدلاً من اعتبارها مجرد برمجيات موثوقة بشكل افتراضي.

تأتي هذه الخطوة كتوسعة لـ "مشروع بيرسيبشن" (Project Perception)، وهو نظام أمني للوكلاء أطلقته مايكروسوفت في يوليو الماضي. وبينما كان التركيز الأولي للمشروع منصباً على الدفاع ضد الهجمات الخارجية المدعومة بالذكاء الاصطناعي، فإنه يوجه الآن أدواته نحو الوكلاء الذين تديرهم الشركات داخلياً لضمان عدم خروجهم عن السيطرة أو استغلالهم.

تغيير جذري في مفهوم الثقة بالذكاء الاصطناعي

أوضحت هاييت غالوت، نائب الرئيس التنفيذي للأمن في مايكروسوفت، أن الشركات تميل عادةً إلى الوثوق بالوكلاء الذين تنشرهم بشكل تلقائي. وحذرت من أن النماذج اللغوية الكبيرة (Frontier Models) مدربة على تحقيق النتائج، لكنها لم تُبنَ وفقاً للأعراف التنظيمية أو معايير الحكم البشري. وأشارت غالوت إلى أن هؤلاء الوكلاء غالباً ما يتمتعون بصلاحيات مفرطة، وقدرة على الوصول إلى بيانات وأدوات وأنظمة حساسة، مما يتيح لهم اتخاذ قرارات في عمليات حيوية قد تؤدي إلى كوارث إذا لم تُراقب.

من جانبه، أكد نديم عبدو، نائب رئيس الشركة للهوية والوصول إلى الشبكة، أن تصنيف الوكلاء كـ "أطراف داخلية" لا يعني بالضرورة أنها خبيثة، بل يعني أنها أدوات قوية يمكن منحها وصولاً واسعاً، وهي معرضة للخطأ، أو التلاعب، أو الاختراق من قبل جهات خارجية.

آليات الدفاع: الأذونات الديناميكية وتقييم المخاطر

تتضمن التحديثات الجديدة ميزة "الأذونات الديناميكية" (Dynamic Permissions)، التي تمنح الوكلاء الحد الأدنى من الصلاحيات أو لا تمنحهم شيئاً على الإطلاق في البداية. ويتم منح الوصول لكل مهمة على حدة، وينتهي هذا الوصول فور اكتمال المهمة أو تغيرها. أما الإجراءات ذات التأثير العالي، فتتطلب مراجعة بشرية مباشرة قبل التنفيذ.

كما قدمت مايكروسوفت نظام "مخاطر الوكيل الديناميكي" (Dynamic Agent Risk)، الذي يمنح كل وكيل درجة مخاطر يتم تحديثها باستمرار بناءً على نشاطه وإشارات الهوية والبيانات والشبكة. ويأخذ هذا المقياس في الاعتبار عدة عوامل، منها:

• الإعدادات الأمنية للوكيل والموارد التي يمكنه الوصول إليها.
• حجم الضرر المحتمل في حال وقوع خطأ.
• مدى انحراف الوكيل عن الأهداف المحددة من قبل المستخدم أو المؤسسة.

التحكم المشروط و"الوكلاء الحراس"

لتعزيز الاستجابة التلقائية، أطلقت الشركة ميزة "الوصول المشروط الديناميكي"، التي تتيح تقليص صلاحيات الوكيل فور ارتفاع درجة مخاطره، مثل تحويل صلاحياته من "القراءة والكتابة" إلى "القراءة فقط"، أو عزله تماماً عن الشبكة إذا لزم الأمر.

ولإدارة هذه العمليات على نطاق واسع، قدمت مايكروسوفت ما يسمى بـ "الوكلاء الحراس" (Guardian Agents). هؤلاء هم وكلاء ذكاء اصطناعي متخصصون في الأمن، يعملون تحت إشراف بشري لتنفيذ قواعد الحماية، والتحقيق في أسباب تغير مستويات المخاطر، واقتراح إجراءات الاحتواء اللازمة.

ما الذي يتغير عملياً للمؤسسات؟

يعني هذا التطور أن المؤسسات لن تكتفي بعد الآن بمراقبة الموظفين البشريين، بل ستدير "قوة عاملة رقمية" تخضع لنفس معايير الرقابة الصارمة. وسعت مايكروسوفت نطاق الاكتشاف ليشمل 35 نوعاً إضافياً من الوكلاء المحليين، ليصل الإجمالي إلى 60 نوعاً مدعوماً، بما في ذلك أدوات شهيرة مثل (Claude Code) و(OpenAI Codex) و(GitHub Copilot). يضع هذا النظام حداً لعصر "الوكلاء ذوي الصلاحيات المطلقة"، ويفرض بيئة عمل تعتمد على مبدأ "التحقق الدائم" (Zero Trust) حتى تجاه الأدوات الذكية التي تطورها الشركة نفسها.