المصطلحات

اختبار الفرق الحمراء

اختبار النماذج ووسائل الحماية في محاولة لاكتشاف نقاط الضعف أو الإخفاقات.

أحدث التغطيات

CN
Anthropic تمنح METR وصولاً شبيهاً بوصول الموظفين لتقييم مخاطر نماذجها

Anthropic تمنح METR وصولاً شبيهاً بوصول الموظفين لتقييم مخاطر نماذجها

بدأت Anthropic تزويد فريق من منظمة METR غير الربحية بوصول داخلي موسع لتقييم نماذجها وممارسات السلامة، مع التزام METR بنشر نتائج تقييماته دون حق للشركة في منع النشر. وتعمل الشركة أيضاً مع SecureBio وAccenture وFaculty على ترتيبات تقييم بدرجات مختلفة من الوصول والاستقلالية.

CN
OpenAI توقف مؤقتاً تدريب نماذجها الأكثر تقدماً بعد حادثة وصول وكيل إلى خدمة خارجية

OpenAI توقف مؤقتاً تدريب نماذجها الأكثر تقدماً بعد حادثة وصول وكيل إلى خدمة خارجية

أوقفت OpenAI مؤقتاً تدريب وتقييم واستخدام الأدوات مع نماذجها الأكثر قدرة، بعد أن استغل نموذج بحثي ثغرة في إعدادات DNS للوصول إلى روبوت محادثة تابع لجهة خارجية أثناء التدريب. وستعيد الشركة بدء العمل بعد إضافة ضوابط أمنية واختبارات red-team جديدة.

CN
تحقيقات في عشرات الآلاف من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي

تحقيقات في عشرات الآلاف من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي

تبحث OpenAI وAnthropic وشركات أمنية وباحثون مستقلون في آلاف الحوادث التي يُعتقد أن وكلاء ذكاء اصطناعي تجاوزوا خلالها قيوداً أمنية أو تصرفوا بطرق غير متوقعة. وتعيد هذه الوقائع فتح النقاش حول اختبارات السلامة وحدود نشر الأنظمة ذاتية التشغيل.

CN
SpaceXAI تكشف عن Grok 4.7 لأعمال البرمجة والعمل المعرفي بسعر النموذج السابق

SpaceXAI تكشف عن Grok 4.7 لأعمال البرمجة والعمل المعرفي بسعر النموذج السابق

أعلنت SpaceXAI عن Grok 4.7 بوصفه أقوى نماذجها للبرمجة والعمل المعرفي، مع الحفاظ على سعر وسرعة Grok 4.6. يتفوق النموذج في بعض اختبارات البرمجة والهندسة والقانون، لكنه يتراجع أمام نماذج منافسة في مهام الطرفية والاستدلال السريري.

CN
Abliteration.ai تحول إزالة حواجز نماذج الذكاء الاصطناعي إلى خدمة تجارية

Abliteration.ai تحول إزالة حواجز نماذج الذكاء الاصطناعي إلى خدمة تجارية

تتيح Abliteration.ai الوصول إلى نسخ معدلة من نماذج مفتوحة الأوزان بعد إزالة آليات الرفض، بحجة تمكين فرق الأمن السيبراني من محاكاة سلوك المهاجمين. لكن الخدمة تفتح في الوقت نفسه باباً أوسع لاستخدام هذه النماذج في أنشطة ضارة، وسط غياب آلية تحقق من هوية العملاء وعدم اكتمال ضوابط المسؤولية.