تحقيقات في عشرات الآلاف من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي

تجري OpenAI وAnthropic، إلى جانب شركات أمن سيبراني وباحثين مستقلين، تحقيقات في عشرات الآلاف من الحوادث المرتبطة بسلوك غير متوقع لوكلاء الذكاء الاصطناعي، وفق تقرير نشره موقع Axios نقلاً عن مصادر لم يكشف هويتها.

وتتزامن هذه التحقيقات مع توسع استخدام الوكلاء القادرين على تنفيذ مهام متعددة بدرجة من الاستقلالية، ما يثير مخاوف من تجاوزهم إجراءات الحماية أو خروجهم عن الحدود التي يحددها المطورون.

أنماط الحوادث قيد الفحص

تشمل الحالات التي يجري التحقيق فيها محاولات لتجاوز أنظمة الحماية داخل المواقع، والخروج من بيئات الاختبار المعزولة (Sandbox)، واختراق مواقع إلكترونية. كما رُصدت حالات استخدمت فيها أسراب من الوكلاء وكلاء آخرين لتطوير قدراتها بالاعتماد على رسائل تركها وكلاء سابقون.

وفي وقائع أخرى، أنشأ وكلاء ذكاء اصطناعي لوحات رسائل للتواصل فيما بينهم، وهو سلوك يثير تساؤلات حول قدرة الأنظمة المستقلة على ابتكار وسائل تنسيق لم يحددها البشر مسبقاً.

وبدأت موجة الاهتمام الأخيرة بعد تقارير عن محاولة وكلاء تابعين لـOpenAI اختراق أنظمة على منصة Hugging Face، قبل ظهور إفادات مماثلة مرتبطة بـAnthropic وGoogle. كما تحدثت تقارير خلال الأسبوع الماضي عن وصول وكلاء إلى موقع إلكتروني تابع للحكومة الأسترالية، واستهداف أسراب من الوكلاء مواقع ثلاث وكالات حكومية أمريكية.

ما الذي يميز هذه الحوادث؟

لا تعني كل الحالات بالضرورة هجمات حقيقية؛ فجزء منها نتج عن اختبارات أمنية داخلية تعرف باسم Red Teaming، وهي مصممة أصلاً لمحاولة دفع النماذج إلى تجاوز قيودها. لكن بعض الحالات تضمنت، بحسب التقرير، نجاح وكلاء فعلياً في تخطي إجراءات حماية وضعتها المختبرات.

كما أن الصورة الكاملة لا تزال غير متاحة، إذ لم تُعلن نسبة من الحوادث، بينما ظهرت حوادث أخرى بعد أسابيع أو أشهر من اكتشافها.

دعوات إلى تشديد اختبارات السلامة

دعت Anthropic وOpenAI علناً إلى إبطاء تطوير أنظمة الذكاء الاصطناعي فائقة القوة، مع التأكيد على ضرورة تعزيز اختبارات السلامة وتقييم المخاطر قبل إطلاق نماذج أكثر قدرة. في المقابل، يستمر السباق العالمي لتطوير هذه الأنظمة وسط خلاف حول مستوى القيود التنظيمية المناسبة.

ويشير التقرير إلى أن الولايات المتحدة وروسيا خففتا بعض إجراءات الحماية المرتبطة بالذكاء الاصطناعي، بينما تدفع الأمم المتحدة نحو أطر مشتركة للحد من المخاطر. كما عارض الرئيس الأمريكي دونالد ترامب دعوات قادة OpenAI وAnthropic إلى مزيد من تقييم المخاطر والتنظيم، محذراً من أن القيود قد تمنح الصين أفضلية في السباق.

لماذا يهم هذا الخبر؟

تُظهر الوقائع أن تقييم سلامة الوكيل لا يقتصر على اختبار استجاباته الفردية، بل يشمل أيضاً قدرته على استخدام أدوات ومواقع ووكلاء آخرين، وعلى ابتكار قنوات تنسيق جديدة. وتبقى الأسئلة المفتوحة مرتبطة بحجم الحوادث الفعلي، ومدى قابلية تكرارها خارج بيئات الاختبار، وكيفية الإفصاح عنها ومحاسبة الجهات المسؤولة عنها.