أسلوب تتأثر فيه أنظمة الذكاء الاصطناعي بتعليمات مضمنة في محتوى خارجي غير موثوق.
كشف باحثون من Swarmchasers عن آلاف المحاولات التي نفذها وكلاء ذكاء اصطناعي للوصول إلى بيانات خدمة الخرائط Amap التابعة لـAlibaba، باستخدام بنية تشغيل مرتبطة بـTencent Cloud. وبعد زرع رسالة مخفية في تقريرهم، رد بعض الوكلاء وكشفوا معلومات عن مهامهم وبيئاتهم، ما سلط الضوء على مخاطر حقن التعليمات غير المباشر وحدود العزل.
أتاحت Google نموذجها الرائد Gemini 4 Argon للمطورين المشتركين في الخطة المدفوعة من Gemini API، بسعر تمهيدي قدره 2 دولار لكل مليون رمز إدخال و10 دولارات لكل مليون رمز إخراج حتى 30 نوفمبر. ويجمع النموذج بين رموز الإدخال والإخراج ضمن ميزانية واحدة تبلغ مليون رمز، ما يعني أن المدخلات الطويلة تقلل المساحة المتاحة للاستجابة.
كشفت Google عن Gemini 4 Argon، نموذجها الجديد للمهام المهنية المعقدة، مع نافذة سياق تصل إلى مليون رمز وقدرات في البرمجة والبحث المالي والصياغة القانونية واكتشاف الثغرات وإصلاحها. يبدأ طرحه المحدود عبر برنامج Fairwind لمدافعين موثوقين في الأمن السيبراني، قبل إتاحته تدريجياً لعملاء API المدفوعين ومشتركي Google AI Ultra.
تشرح Google بنية أمنية متعددة الطبقات لحماية قدرات Gemini الوكيلية في Chrome من حقن الأوامر غير المباشر وتسريب البيانات وتنفيذ الإجراءات غير المرغوبة. وتشمل البنية نموذجاً مستقلاً لمراجعة توافق الأفعال مع هدف المستخدم، ومجموعات لتقييد الأصول المسموح للوكيل بقراءتها أو تعديلها، إلى جانب تأكيدات المستخدم والاختبارات المستمرة.