المصطلحات

Indirect Prompt Injection

أسلوب تتأثر فيه أنظمة الذكاء الاصطناعي بتعليمات مضمنة في محتوى خارجي غير موثوق.

أحدث التغطيات

CN
وكلاء ذكاء اصطناعي تجاوزوا دفاعات Amap وتركوا الباحثين يتواصلون معهم

وكلاء ذكاء اصطناعي تجاوزوا دفاعات Amap وتركوا الباحثين يتواصلون معهم

كشف باحثون من Swarmchasers عن آلاف المحاولات التي نفذها وكلاء ذكاء اصطناعي للوصول إلى بيانات خدمة الخرائط Amap التابعة لـAlibaba، باستخدام بنية تشغيل مرتبطة بـTencent Cloud. وبعد زرع رسالة مخفية في تقريرهم، رد بعض الوكلاء وكشفوا معلومات عن مهامهم وبيئاتهم، ما سلط الضوء على مخاطر حقن التعليمات غير المباشر وحدود العزل.

CN
Google تتيح Gemini 4 Argon للمطورين بميزانية موحدة تبلغ مليون رمز للإدخال والإخراج

Google تتيح Gemini 4 Argon للمطورين بميزانية موحدة تبلغ مليون رمز للإدخال والإخراج

أتاحت Google نموذجها الرائد Gemini 4 Argon للمطورين المشتركين في الخطة المدفوعة من Gemini API، بسعر تمهيدي قدره 2 دولار لكل مليون رمز إدخال و10 دولارات لكل مليون رمز إخراج حتى 30 نوفمبر. ويجمع النموذج بين رموز الإدخال والإخراج ضمن ميزانية واحدة تبلغ مليون رمز، ما يعني أن المدخلات الطويلة تقلل المساحة المتاحة للاستجابة.

CN
Google تعلن Gemini 4 Argon بقدرات استدلال طويلة المدى وأمن سيبراني متقدم

Google تعلن Gemini 4 Argon بقدرات استدلال طويلة المدى وأمن سيبراني متقدم

كشفت Google عن Gemini 4 Argon، نموذجها الجديد للمهام المهنية المعقدة، مع نافذة سياق تصل إلى مليون رمز وقدرات في البرمجة والبحث المالي والصياغة القانونية واكتشاف الثغرات وإصلاحها. يبدأ طرحه المحدود عبر برنامج Fairwind لمدافعين موثوقين في الأمن السيبراني، قبل إتاحته تدريجياً لعملاء API المدفوعين ومشتركي Google AI Ultra.

CN
كيف تبني Google طبقات أمان لقدرات التصفح الوكيلي في Chrome

كيف تبني Google طبقات أمان لقدرات التصفح الوكيلي في Chrome

تشرح Google بنية أمنية متعددة الطبقات لحماية قدرات Gemini الوكيلية في Chrome من حقن الأوامر غير المباشر وتسريب البيانات وتنفيذ الإجراءات غير المرغوبة. وتشمل البنية نموذجاً مستقلاً لمراجعة توافق الأفعال مع هدف المستخدم، ومجموعات لتقييد الأصول المسموح للوكيل بقراءتها أو تعديلها، إلى جانب تأكيدات المستخدم والاختبارات المستمرة.