أطلقت شركة سيسكو (Cisco) مشروَعاً جديداً تحت اسم Project Quarry مفتوح المصدر، يهدف إلى اكتشاف هجمات وكلاء الذكاء الاصطناعي التي لا تظهر نواياها الخبيثة إلا من خلال تتبع تسلسل أفعال تبدو في ظاهرها بريئة ومصرحاً بها. وعلى عكس الضوابط الأمنية التقليدية التي تقيم كل إجراء بشكل منفصل، يأتي هذا المشروع لمعالجة الثغرات الناتجة عن الهجمات المركبة التي تجزئ الأنشطة الضارة إلى مهام روتينية صغيرة.
يُعرف Quarry بأنه لغة قواعد عصبية رمزية تدمج بين أحكام التعلم الآلي وفحوصات القواعد الصارمة. وهي تغطي المحادثات ذات الجولة الواحدة أو المتعددة عبر النماذج اللغوية الكبيرة، والوكلاء، واستخدام الأدوات، وتفاعلات بروتوكول سياق النماذج (MCP)، بالإضافة إلى المدخلات متعددة الوسائط. وتعتمد كل قاعدة على أدلة عصبية مستمدة من تصنيفات التعلم الآلي وقضاة النماذج اللغوية الكبيرة، إلى جانب قواعد رمزية تتحقق من الشروط الدقيقة والتسلسلات وتطابقات النصوص وعلاقات الأدوات.
ما الذي يتغير عملياً؟
يوفر المشروع طبقة سياسات وتقييم مشتركة يمكن استخدامها لفرض حماية وقت التشغيل على الوكلاء، وتحليل أمان مجموعة القواعد بأثر رجعي، والاستجابة للحوادث. وقد صُمم المشروع ليتكامل مع إطار عمل الأمان والسلامة المتكامل للذكاء الاصطناعي من سيسكو، حيث يمثل أداة الكشف الفعلية للمخاطر التي يحددها الإطار. ويهدف المطورون إلى جعل Quarry معياراً مفتوحاً ومشتركاً للتعبير عن هجمات وكلاء الذكاء الاصطناعي ومشاركتها، على غرار معايير أخرى مثل Snort وYARA وSigma.
مواجهة التهديدات المتقدمة
يستجيب هذه الخطوة لحوادث مسجلة أظهرت استخدام أدوات مساعدة للكتابة والبرمجة في تنفيذ هجمات قسمت إلى مهام روتينية صغيرة لتجاوز الدفاعات التقليدية، حيث لم يظهر الهدف الحقيقي والمتمثل في سرقة البيانات إلا عند تجميع الطلبات معاً بالتسلسل الصحيح. وللتغلب على التحدي المتمثل في بطء كتابة القواعد اليدوية مقارنة بسرعة المهاجمين في استخدام الذكاء الاصطناعي، يتيح المشروع ملحقاً خاصاً بوكلاء البرمجة لكتابة قواعد Quarry وتجميعها وتحسينها واختبارها باستخدام وصف بسيط باللغة الإنجليزية لمخاطر المؤسسة.
يتضمن حزمة البدء الخاصة بالمشروع لغة نطاق محدد مقروءة للمحادثات واستخدام الأدوات، ووقت تشغيل تقييمياً مع حدود آمنة وموارد قابلة للتكوين، وماسح ضوئي لسطر الأوامر، وحزمة تطوير برمجيات بايثون (Python SDK)، وعمليات نموذجية اختيارية للإشارات الدلالية، بالإضافة إلى ملحق مخصص لوكلاء البرمجة المتوافقة مع بروتوكول MCP، وسير عمل للتحقق من صحة القواعد مقابل مجموعات البيانات الإيجابية والحميدة.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.