تتعامل Google مع حقن الأوامر غير المباشرة (IPI) باعتباره تهديداً متطوراً لا يمكن حله مرة واحدة ثم تجاوزه. ويستهدف هذا النوع من الهجمات تطبيقات الذكاء الاصطناعي التي تتعامل مع مصادر بيانات وأدوات متعددة، مثل Workspace مع Gemini، إذ يستطيع المهاجم تضمين تعليمات ضارة داخل البيانات أو الأدوات التي يستخدمها النموذج أثناء تنفيذ طلب المستخدم، حتى من دون إدخال مباشر من المستخدم نفسه.
في تدوينة نشرها Adam Gavish من فريق Google لأمن الذكاء الاصطناعي التوليدي، توضح Google أن توسع استخدام النماذج اللغوية الكبيرة في الأتمتة الوكيلة، إلى جانب تنوع المحتوى الذي تعالجه، يخلق بيئة متغيرة باستمرار للهجمات المعادية. لذلك تبني الشركة نهجاً متواصلاً يجمع بين البحث الأمني، واختبارات الهجوم، والبيانات الاصطناعية، وضوابط التطبيقات، وتحديث نماذج التعلم الآلي والنماذج اللغوية.
اكتشاف الهجمات من مصادر متعددة
تبدأ العملية باكتشاف مسارات هجوم جديدة وفهرستها قبل أن يستغلها المهاجمون على نطاق أوسع. وتستخدم Google لهذا الغرض برامج داخلية وخارجية، من بينها اختبارات المحاكاة الهجومية البشرية، حيث تنفذ فرق متخصصة هجمات تستند إلى ملفات تعريف واقعية للمستخدمين بهدف كشف نقاط الضعف في الأمان والسلامة، ثم تنسق مع فرق المنتجات لمعالجة المشكلات المكتشفة.
وتستعين الشركة أيضاً بالاختبارات الهجومية الآلية عبر أطر عمل ديناميكية مدعومة بالتعلم الآلي. وتولد هذه الأطر حمولات هجومية وتكرر تعديلها خوارزمياً لمحاكاة التهديدات المتقدمة على نطاق واسع، ما يساعد على رسم مسارات هجوم معقدة واختبار فعالية الضوابط الأمنية في حالات طرفية أكثر مما يمكن للاختبارات اليدوية وحدها تغطيته.
كما يتيح برنامج مكافآت الثغرات في الذكاء الاصطناعي من Google (Google AI Vulnerability Rewards Program) التعاون مع الباحثين الأمنيين الخارجيين الذين يكتشفون هجمات جديدة تستفيد من IPI. وتستضيف Google كذلك فعاليات اختراق مباشرة دورية تمنح باحثين مدعوين إمكانية الوصول إلى ميزات ما قبل الإصدار بهدف اكتشاف ثغرات جديدة. وبعد ذلك تعمل الفرق على التحقق من المشكلات وإعادة إنتاجها ومعالجتها.
فهرسة الثغرات وتوسيع بيانات الهجوم
تراقب Google أيضاً الهجمات المعلنة للعامة عبر مصادر استخبارات مفتوحة، تشمل وسائل التواصل الاجتماعي والبيانات الصحفية والمدونات وغيرها. وتُستخلص الثغرات الجديدة من هذه المصادر، ثم تُعاد محاكاتها وفهرستها داخلياً للتأكد من عدم تأثر المنتجات بها.
وتخضع كل ثغرة جديدة لتحليل تجريه فرق Google Trust, Security, & Safety. وتشمل العملية إعادة إنتاج الثغرة، والتحقق من عدم تكرارها، وربطها بتقنية الهجوم وفئة الأثر، ثم إسنادها إلى المسؤولين المعنيين. وبهذه الطريقة تتحول نتائج الاختبارات والمصادر الخارجية إلى قائمة قابلة للمعالجة والمتابعة.
بعد اكتشاف الهجمات وتنقيحها وفهرستها، تستخدم Google أداة Simula لتوليد بيانات اصطناعية توسع نطاق الهجمات الجديدة. وتتيح هذه الخطوة إنشاء متغيرات متعددة للهجوم بهدف تحسين الاكتمال والتغطية، وإعداد مجموعات بيانات جديدة للتدريب والتحقق. ووفق التدوينة، أدى هذا المسار إلى زيادة توليد البيانات الاصطناعية بنسبة 75%، دعماً لتقييم نماذج الدفاع وإعادة تدريبها وتحديث مجموعة البيانات المستخدمة في حساب فعالية الدفاعات والإبلاغ عنها.
تحديث الدفاعات على عدة مستويات
لا تعتمد Google على طبقة واحدة من الحماية. فالدفاعات الحتمية، مثل تأكيد المستخدم وتنقية عناوين URL وسياسات تسلسل الأدوات، تستجيب للهجمات الجديدة عبر تحديثات إعدادات بسيطة. وتدار هذه الضوابط من خلال محرك سياسات مركزي يضم إعدادات لاستدعاءات الأدوات الأساسية وتنقية عناوين URL وتسلسل الأدوات. ويسمح ذلك بإجراء إصلاحات سريعة، مثل إزالة أنماط ضارة باستخدام تعبيرات منتظمة، بوتيرة أسرع من دورات تحديث نماذج التعلم الآلي أو النماذج اللغوية.
أما الدفاعات القائمة على التعلم الآلي، فتُدرَّب مجدداً باستخدام بيانات اصطناعية تتضمن متغيرات الهجمات المكتشفة. وتقسم Google هذه البيانات إلى مجموعتي تدريب وتحقق، بحيث تُقاس الفعالية على أمثلة لم تُستخدم في التدريب. ويهدف هذا الأسلوب إلى توفير قابلية للتكرار واتساق في بيانات التدريب والاختبار، مع بناء هيكل قابل للتوسع نحو تحديث آلي كامل للنماذج مستقبلاً.
وتخضع الدفاعات القائمة على النماذج اللغوية بدورها لهندسة المطالبات، عبر تحسين تعليمات النظام اعتماداً على أمثلة البيانات الاصطناعية ومقاييس متفق عليها لفعالية الدفاع. وبالتوازي، تعمل Google على تقوية نموذج Gemini لتحسين قدرته الداخلية على التعرف إلى التعليمات الضارة الموجودة داخل البيانات وتجاهلها، مع الاستمرار في تنفيذ الطلب المقصود من المستخدم. وتقول الشركة إن هذه العملية حسّنت قدرة Gemini على اكتشاف التعليمات المحقونة وتجاهلها، وخفضت معدل نجاح الهجمات من دون التأثير في كفاءة النموذج أثناء العمليات الاعتيادية.
قياس الفعالية قبل اعتماد التحسينات
لا تكتفي Google بإضافة ضوابط جديدة، بل تحاكي الهجمات على عدد من ميزات Workspace وتطبيقاته، مثل Gmail وDocs، باستخدام مجموعة موحدة من الأصول لضمان اتساق التقييم. ولتحديد الأثر الفعلي لتحسين معين، مثل تحديث نموذج تعلم آلي أو تعديل مطالبة لنموذج لغوي، تشغّل الشركة التقييم الشامل مع تفعيل الدفاع ثم من دونه.
توفر هذه المقارنة مقاييس «قبل وبعد» للتحقق من فعالية التغيير ودعم دورة التحسين المستمر. وترى Google أن طبيعة IPI تتطلب دفاعاً متعدد الطبقات ومساراً متكرراً يجمع بين البحث الأمني، وخطوط المعالجة الآلية، والنماذج المتقدمة، بدلاً من الاعتماد على حل ثابت لمشكلة يتغير شكلها مع تطور التطبيقات الوكيلة ومصادر البيانات.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.