ثغرات أمنية حرجة: كيف يمكن لوكيل ذكاء اصطناعي واحد أن يهدد أمن المؤسسات؟

مع التسارع الكبير في تبني تقنيات الذكاء الاصطناعي، برز تحدٍ أمني جديد يتمثل في "وكلاء الذكاء الاصطناعي" (AI Agents) الذين يتم بناؤهم خارج نطاق رقابة فرق تقنية المعلومات والأمن السيبراني. تشير بيانات حديثة من Cloud Security Alliance إلى أن 82% من المتخصصين وجدوا وكلاء ذكاء اصطناعي في مؤسساتهم لم يكونوا على علم بوجودهم، مما يفتح ثغرات أمنية قد تؤدي إلى كوارث مالية وتشغيلية.

فجوات الوصول وتعدد الهويات الرقمية

تكمن المشكلة الأولى في كيفية حصول هؤلاء الوكلاء على صلاحيات الوصول. غالباً ما يستخدم الموظفون أدوات "بدون كود" (No-code) لمنح الوكيل صلاحيات عبر بروتوكولات OAuth أو مفاتيح API شخصية. هذا التعدد في طرق الوصول يخلق حالة من التخبط في سجلات التدقيق (Audit Logs)؛ فقد يظهر في سجلات النظام أن العملية تمت بواسطة "حساب خدمة" أو "مفتاح API"، بينما في الواقع، كان الوكيل يعمل بتفويض من مستخدم بشري، مما يجعل تتبع المسؤولية القانونية والتقنية أمراً في غاية الصعوبة.

قاعدة "الاثنين" للتصميم الآمن

للحماية من هذه المخاطر، يبرز مفهوم "التصميم الآمن" (Secure by Design). وتعتمد فرق الأمن في شركات كبرى مثل Meta على ما يسمى "قاعدة الاثنين" (Rule of Two) لتحديد خطورة الوكيل. وفقاً لهذه القاعدة، يجب ألا يجمع الوكيل في جلسة واحدة بين ثلاثة عناصر:

• معالجة مدخلات غير موثوقة: مثل قراءة رسائل البريد الإلكتروني من مصادر خارجية.
• الوصول إلى أنظمة حساسة: مثل قواعد بيانات الموارد البشرية أو الأنظمة المالية (ERP).
• القدرة على تغيير الحالة أو التواصل الخارجي: مثل تعديل بيانات بنكية أو إرسال بيانات لجهة خارجية.

إذا امتلك الوكيل هذه الخصائص الثلاث معاً، فإنه يصبح هدفاً مثالياً للهجمات.

مخاطر حقن الأوامر عبر المحتوى

أحد أخطر التهديدات هو "حقن الأوامر" (Prompt Injection)، حيث يمكن للمهاجمين إرسال تعليمات خفية داخل محتوى يبدو عادياً. على سبيل المثال، يمكن إرسال بريد إلكتروني يحتوي على نص مكتوب باللون الأبيض على خلفية بيضاء يطلب من الوكيل "تحديث بيانات المورد البنكية في النظام". بما أن الوكيل يقرأ المحتوى رقمياً، فإنه سينفذ الأمر دون أن يلاحظ أي موظف بشري وجود رسالة مشبوهة، وستظهر العملية في السجلات كنشاط شرعي ومصرح به.

تحديات الكشف والتدقيق اللاحق

تعتمد أنظمة الكشف التقليدية على مراقبة الصلاحيات، لكن الوكيل المخترق قد يظل ضمن نطاق صلاحياته الممنوحة، مما يجعله غير مرئي. الحل يكمن في مراقبة السلوك (Behavioral Baselining)؛ أي رصد أي تغيير في تسلسل العمليات، مثل قيام وكيل كان يكتفي بالقراءة فقط بمحاولة "الكتابة" أو تعديل سجلات لأول مرة.

لماذا يمثل هذا تحدياً أمنياً حقيقياً؟

تكمن الخطورة في أن وكلاء الذكاء الاصطناعي يكسرون حلقة "المسؤولية البشرية". عندما يرتكب الوكيل خطأً أو ينفذ أمراً خبيثاً، يواجه المحققون معضلة في تحديد السلطة (Authority) التي سمحت بذلك. هل هو الموظف الذي أنشأ الوكيل؟ أم المستخدم الذي منح تفويض OAuth؟ أم أن الوكيل يعمل بشكل مستقل تماماً؟ بدون سجلات دقيقة تربط كل إجراء بقرار بشري واضح، تظل المؤسسات عاجزة عن سد الثغرات ومنع تكرار الهجمات.