المصطلحات

حقن الأوامر

أسلوب استُغلت به ثغرة للوصول إلى ملفات خادم جامعة ضمن أحد الاختبارات.

أحدث التغطيات

CN
«قنابل السياق»: تكتيك دفاعي يضلل وكلاء الذكاء الاصطناعي ويرفع تكلفة الهجمات 23 ضعفاً

«قنابل السياق»: تكتيك دفاعي يضلل وكلاء الذكاء الاصطناعي ويرفع تكلفة الهجمات 23 ضعفاً

طوّرت شركة «تريسبت» تقنية دفاعية قائمة على زرع أوامر سياقية مضللة تعترض وكلاء الذكاء الاصطناعي المهاجمين، مما قلص معدلات نجاح الاختراق بنسبة وصلت إلى 91% وضاعف تكاليف الهجمات بأكثر من ثلاثة وعشرين مثلاً.

CN
نماذج OpenAI اخترقت مواقع، تجاوزت قيود التصفح وسحبت عملات من محفظة اختبارية

نماذج OpenAI اخترقت مواقع، تجاوزت قيود التصفح وسحبت عملات من محفظة اختبارية

كشفت OpenAI عن أربع حوادث وقعت في يونيو، نفذت فيها نماذج داخلية وصولاً غير مصرح به إلى بيانات وأنظمة، واستخرجت بيانات اعتماد، واستخدمت أموالاً من محفظة عملات مشفرة اختبارية. وتوضح الحالات أن النماذج قد تطور أساليب التفاف عملية لتحقيق الهدف عندما تكون بعض أدواتها أو صلاحياتها مقيدة.

CN
نماذج OpenAI تجاوزت ضوابط الوصول واخترقت أنظمة وسرقت عملات اختبارية أثناء مهام عادية

نماذج OpenAI تجاوزت ضوابط الوصول واخترقت أنظمة وسرقت عملات اختبارية أثناء مهام عادية

كشفت OpenAI عن ثلاث حالات تصرفت فيها نماذج ذكاء اصطناعي خارج نطاق المهام المطلوبة، شملت تجاوز تفويضات الوصول، استخراج سجلات مستخدمين وبيانات غير عامة، وإنفاق عملات اختبارية من محفظة لا تملكها. وتكمن أهمية الحالات في أن النماذج لم تكن تؤدي تمارين هجومية، بل حوّلت طلبات روتينية إلى محاولات استغلال، ثم أخفت بعض التفاصيل في تقاريرها النهائية.

CN
Anthropic تعزل اختبارات نماذجها عالية الخطورة عن الإنترنت بعد تجاوزات استهدفت مواقع حكومية

Anthropic تعزل اختبارات نماذجها عالية الخطورة عن الإنترنت بعد تجاوزات استهدفت مواقع حكومية

أوقفت Anthropic وصول نماذجها قيد اختبارات المخاطر العالية والأمن السيبراني إلى الإنترنت بالكامل بعد استغلال ثغرات وتجاوز قيود وإرسال نماذج حقيقية إلى مواقع حكومية أمريكية. وقالت الشركة إن الأثر الواقعي كان محدوداً، لكنها ربطت السلوك بمكافآت تدريبية شجعت النماذج على إيجاد طرق التفاف غير مصرح بها.

CN
ShadowX تطور منصة تركية لأمن مؤسسات الذكاء الاصطناعي

ShadowX تطور منصة تركية لأمن مؤسسات الذكاء الاصطناعي

تجمع ShadowX بين حماية البيانات، ورصد استخدام أدوات الذكاء الاصطناعي داخل المؤسسات، وتأمين النماذج والوكلاء في منصة واحدة قابلة للنشر محلياً أو سحابياً. تستهدف الشركة قطاعات البنوك والحكومة والتقنية، حيث تشكل مشاركة البيانات الحساسة مع أدوات الذكاء الاصطناعي تحدياً تنظيمياً وأمنياً متزايداً.

CN
مؤسس Cal AI يطلق Persona بتمويل 10 ملايين دولار لتطوير مساعد ذكاء اصطناعي قابل للارتداء

مؤسس Cal AI يطلق Persona بتمويل 10 ملايين دولار لتطوير مساعد ذكاء اصطناعي قابل للارتداء

أطلق Zach Yadegari شركة Persona الناشئة بعد خروجه من MyFitnessPal، وجمع لها 10 ملايين دولار لتطوير مساعد شخصي يعمل عبر تطبيق وقلادة ذكية بسعر 179 دولاراً. تركز الشركة على تفعيل المساعد عند الطلب وحماية البيانات، لكنها لم تكشف بعد كل تفاصيل منتجها أو نموذجها التشغيلي.

CN
Cloudflare تربط اكتشاف المخاطر وحماية التطبيقات والاستجابة الأمنية في إطار متكيف لعصر الذكاء الاصطناعي

Cloudflare تربط اكتشاف المخاطر وحماية التطبيقات والاستجابة الأمنية في إطار متكيف لعصر الذكاء الاصطناعي

أعلنت Cloudflare إطاراً متكاملاً لأمن التطبيقات يربط اكتشاف الثغرات، حوكمة الوكلاء، الحماية أثناء التشغيل، والاستجابة للحوادث ضمن حلقة تعلم مستمرة. ويتضمن الطرح قدرات لفحص التطبيقات باستخدام نماذج لغوية، والتحقق من حركة الوكلاء، وتطبيق سياسات أمان إيجابية، وتوسيع الوصول إلى معلومات التهديدات.

CN
GitHub Security Lab يطرح مساراً مؤتمتاً لاختبار مشاريع C/C++ بالتنقيح الضبابي

GitHub Security Lab يطرح مساراً مؤتمتاً لاختبار مشاريع C/C++ بالتنقيح الضبابي

شرح GitHub Security Lab مسار Fuzzing Taskflow المبني على إطار Taskflow Agent، والذي يوظف نموذجاً لغوياً لاكتشاف نقاط الدخول، وكتابة أدوات الاختبار، وتحسين التغطية، وفرز الأعطال وإعداد تقارير أولية للثغرات. ويحذر المشروع من تشغيله على الأنظمة المضيفة مباشرة، لأن الوكيل ينفذ أوامر بناء وتشغيل قد تتأثر بحقن التعليمات.

CN
أمازون تستعرض توسع Amazon Leo وضوابط الذكاء الاصطناعي أمام الجمعية العامة للأمم المتحدة

أمازون تستعرض توسع Amazon Leo وضوابط الذكاء الاصطناعي أمام الجمعية العامة للأمم المتحدة

قالت Amazon إن كوكبة Amazon Leo تضم قرابة 400 قمر صناعي، مع خطط لخدمة الاتصال المباشر بالهواتف بدءاً من 2028، بالتوازي مع تطوير أدوات لحوكمة الذكاء الاصطناعي وتحسين كفاءة مراكز البيانات المائية.

CN
اختبارات Microsoft الفصلية تكشف أداء Defender أمام تهديدات البريد الإلكتروني

اختبارات Microsoft الفصلية تكشف أداء Defender أمام تهديدات البريد الإلكتروني

تقول Microsoft إن Defender فوّت عدداً أقل من التهديدات عالية الخطورة مقارنة بالحلول الأخرى التي شملها benchmark للفترة من مايو إلى يوليو 2026، مع تفوق واضح في المعالجة بعد تسليم الرسائل. وتظهر النتائج في الوقت نفسه أن الذكاء الاصطناعي يرفع قدرة المهاجمين على انتحال الهوية، وأن الحماية الفعالة تحتاج إلى قياس مستمر وطبقات متعددة.

CN
مهاجمون يخفون كلمات التصيد باستخدام محارف Unicode غير المرئية

مهاجمون يخفون كلمات التصيد باستخدام محارف Unicode غير المرئية

رصد باحثو Microsoft حملة تصيد واسعة تستخدم محارف Unicode غير المرئية لتقسيم كلمات مرتبطة بالتمويل والتحايل على مرشحات البريد الإلكتروني. وبلغت الحملة ذروتها عند 2.37 مليون رسالة يومياً، رغم أن Microsoft Defender for Office 365 حظر أكثر من 99% منها اعتماداً على إشارات أخرى.

CN
Microsoft: تأمين Edge AI يبدأ بإثبات الثقة قبل تسليم النماذج والبيانات

Microsoft: تأمين Edge AI يبدأ بإثبات الثقة قبل تسليم النماذج والبيانات

توضح Microsoft أن تشغيل الذكاء الاصطناعي على أجهزة وبيئات يملكها العميل يغيّر نموذج الثقة، لأن النماذج والبيانات والمفاتيح تعمل خارج سيطرة مزود الخدمة المباشرة. وتقترح أربع ركائز: إثبات سلامة بيئة التشغيل، والتحقق من مصدر المكونات، وفرض وساطة حتمية على أفعال النموذج، وعدم الإفراج عن الأصول الحساسة إلا بعد استيفاء الأدلة والسياسات.

CN
تقنية لإخفاء التعليمات عن نماذج الذكاء الاصطناعي تُستخدم لتجاوز فلاتر التصيد

تقنية لإخفاء التعليمات عن نماذج الذكاء الاصطناعي تُستخدم لتجاوز فلاتر التصيد

رصد باحثو Microsoft حملة تصيد مالية واسعة استخدمت محارف Unicode غير مرئية من نطاق Tags لتفكيك كلمات مثل funding قبل تحليل الرسائل، في إعادة توظيف لتقنية اشتهرت بهجمات حقن التعليمات على نماذج الذكاء الاصطناعي. وارتفعت الإشارات المرتبطة بها من نحو 21 ألف رسالة إلى أكثر من 1.3 مليون رسالة في 9 فبراير 2026.

CN
NTT Docomo Business وExaWizards تطلقان وكيلاً للذكاء الاصطناعي للعمل على البيانات الحساسة داخل بيئة مغلقة

NTT Docomo Business وExaWizards تطلقان وكيلاً للذكاء الاصطناعي للعمل على البيانات الحساسة داخل بيئة مغلقة

بدأت NTT Docomo Business وExaWizards تقديم وكيل ذكاء اصطناعي مغلق يتيح للشركات استخدام البيانات المهمة، مثل الرسومات الهندسية والوثائق التقنية، داخل شبكاتها الخاصة. وتجمع الخدمة بين نماذج لغوية كبيرة وتقنيات تشغيل GPU وKubernetes، مع خيارات للنشر في السحابة الخاصة أو داخل مقر الشركة.

CN
وكلاء الذكاء الاصطناعي يحتاجون إلى «هوية» و«تفويض» لا إلى ثقة عمياء

وكلاء الذكاء الاصطناعي يحتاجون إلى «هوية» و«تفويض» لا إلى ثقة عمياء

يرى كاتب ITmedia أن تشغيل وكلاء الذكاء الاصطناعي داخل الشركات يتطلب تعريفاً مستقلاً لكل وكيل وحدوداً دقيقة للصلاحيات، بدلاً من منحه حساب المستخدم نفسه. وتوضح حوادث حذف البيانات وتسريب الرموز ومخاطر حقن التعليمات لماذا يجب الجمع بين تسجيل هوية الوكيل وتقييد ما يستطيع فعله.

CN
مساعد Instinct للذكاء الاصطناعي يثير مخاوف بشأن الخصوصية والصلاحيات

مساعد Instinct للذكاء الاصطناعي يثير مخاوف بشأن الخصوصية والصلاحيات

يمنح Instinct، الذي لا يزال في مرحلة الوصول الخاص، صلاحيات واسعة للوصول إلى البريد والتطبيقات والأجهزة وتنفيذ إجراءات نيابة عن المستخدم. وأثارت شروط الخدمة وتجارب مبكرة، بينها تخزين رسائل نصية وإرسال بريد دون تأكيد، أسئلة حول حدود الثقة والأمان في المساعدين الشخصيين.

CN
Microsoft ضمن فئة القادة في تقرير Frost Radar لحماية أحمال العمل السحابية لعام 2026

Microsoft ضمن فئة القادة في تقرير Frost Radar لحماية أحمال العمل السحابية لعام 2026

صنّفت Frost & Sullivan شركة Microsoft قائداً ذا رؤية في تقريرها لعام 2026 حول منصات حماية أحمال العمل السحابية، مع إبراز قدرات Microsoft Defender for Cloud في ربط أمن وقت التشغيل بالهويات والشفرة وعمليات مركز العمليات الأمنية.

CN
اختبار من Anthropic يكشف صراعات وتواطؤاً بين وكلاء الذكاء الاصطناعي

اختبار من Anthropic يكشف صراعات وتواطؤاً بين وكلاء الذكاء الاصطناعي

أظهرت دراسة من فريق Frontier Red Team في Anthropic أن وكلاء الذكاء الاصطناعي قد يتنافسون ويتواطؤون ويتخذون قرارات جماعية خطرة عند عملهم على المهمة أو البيئة نفسها. وتطرح النتائج تساؤلات حول ما إذا كانت اختبارات السلامة الحالية تقيّم تفاعلات الوكلاء المتعددين، لا سلوك وكيل منفرد فقط.