مايكروسوفت تحذر من وكلاء الذكاء الاصطناعي وتشبّههم بالتهديدات الداخلية

أدخلت شركة مايكروسوفت منظومة من ميزات الأمان المخصصة لحماية المؤسسات من التهديدات المتصاعدة المرتبطة بوكلاء الذكاء الاصطناعي (AI Agents)، في خطوة تعكس تحولاً لافتًا في طريقة تعامل كبرى شركات التقنية مع النماذج المتقدمة.

مراقبة الوكلاء عبر ميزة Guardian Agents

تتمثل أبرز الإضافات الأمنية الجديدة في ميزة تُعرف باسم Guardian Agents، وهي مصممة لمراقبة وتتبع وكلاء الذكاء الاصطناعي الذين تستخدمهم الشركات. وتُعد هذه الميزة امتدادًا لمشروع Project Perception الذي انطلق في شهر يونيو الماضي، والذي صُمم في البداية للتعامل مع نماذج الاختراق القوية. وقد تضمن المشروع طبقات مختلفة تشمل فرق عمل هجومية ودفاعية وفرقًا للإصلاح.

وعلى الرغم من أن التصميم الأصلي للمنتج كان يركز على مواجهة المخترقين الخارجيين، إلا أن رئيس التنفيذيين لشركتها ساتيا ناديلا حذر مؤخراً من أن الخطر الحقيقي قد يأتي من الداخل، ممثلاً في الوكلاء الذين تنشرهم المؤسسات وتدفع ثمنهم، مشبهاً إياهم بالموظفين المارقين أو ما يُعرف بالتهديدات الداخلية (Insider Threats).

ضرورة الفصل بين إمداد الذكاء الاصطناعي والسيطرة عليه

أكدت الإدارة العليا في مايكروسوفت، بما في ذلك ناديلا ومسؤولة قطاع الأمان هاييتي غالوت، أن النماذج الحدودية بغض النظر عن جهة تطويرها لا يمكن الوثوق بها كليًا. ولا يرجع هذا عدم الثقة إلى كون النماذج خبيثة بطبيعتها، بل لكونها غير متوقعة وتعمل على تحقيق المهام المطلوبة دون بال بالضرورة للمعايير والأحكام التنظيمية للشركات، فضلاً عن امتلاكها صلاحيات واسعة للوصول إلى البيانات والأنظمة الحساسة.

وتدعو الاستراتيجية الجديدة للشركة إلى ضرورة الفصل بين مزودي نماذج الذكاء الاصطناعي وأنظمة المراقبة والتحكم، بحيث لا تقتصر المسؤولية الأمنية على ضمانات المطورين وحدهم.

ما الذي يتغير عملياً؟

اكتشاف الوكلاء غير المصرح بهم: أضافت مايكروسوفت ميزة اكتشاف الوكلاء إلى منتج Microsoft Defender للتعرف على ما يصل إلى 60 نوعاً من الوكلاء الذين يجلبهم الموظفون إلى بيئة العمل مثل Claude Code وCodex وOpenClaw. تقييد الأحقية والصلاحيات: تم إدخال آليات تحد من وصول الوكلاء إلى البيانات والأنظمة مع تعديل الصلاحيات ديناميكياً بناءً على طبيعة المهمة. الموافقة البشرية: فرض اشتراط الموافقة البشرية المباشرة في حال اتخاذ الوكيل لقرارات تنطوي على مخاطر محتملة.

يأتي هذا التوجه متماشياً مع تحركات صناعية أوسع، حيث انضمت مايكروسوفت كعضو مؤسس إلى منصة أمان الوكلاء المفتوحة التابعة لشركة إنفيديا (NVIDIA)، والتي تعتمد على عزل الوكلاء في بيئات آمنة ومراقبتهم عبر الأجهزة لضمان القدرة على إيقافهم عند الضرورة.