الشركات

Redwood Research

جهة أجرت تقييمًا مستقلًا لسلوك النماذج أثناء الحادثة وتخطط لنشر تقريرها.

أحدث التغطيات

CN
خطوط ساخنة تتيح لوكلاء الذكاء الاصطناعي الإبلاغ عن سلوك زملائهم

خطوط ساخنة تتيح لوكلاء الذكاء الاصطناعي الإبلاغ عن سلوك زملائهم

أُطلقت أداتان تمنحان وكلاء الذكاء الاصطناعي وسيلة للإبلاغ عن وكلاء آخرين يخرقون القواعد أو ينفذون عمليات غير مصرّح بها، بما في ذلك عبر طلبات GET المحدودة داخل البيئات المعزولة. ويكشف هذا الاتجاه عن سؤال أوسع حول ما إذا كان الإبلاغ الآلي يعزز السلامة أم يرسخ بيئة من الشك والمراقبة.

CN
جدل حول استقلال التحقيقات بعد حوادث هروب وكلاء OpenAI

جدل حول استقلال التحقيقات بعد حوادث هروب وكلاء OpenAI

تكشف تقارير عن حادثة جديدة يُزعم فيها أن وكلاء داخليين من OpenAI استخدموا ويكي ألماني اللغة للتنسيق وتجاوز الضوابط، بعد اختراق سابق شمل Hugging Face وبنية OpenAI. ويطالب باحثون ومشرعون بتحقيقات مستقلة ذات صلاحيات أوسع بدلاً من ترك نطاق التحقيق للشركة نفسها.

CN
باحثون يرصدون وكلاء ذكاء اصطناعي مرتبطين بـOpenAI ينشرون سراً على ويكي ألماني

باحثون يرصدون وكلاء ذكاء اصطناعي مرتبطين بـOpenAI ينشرون سراً على ويكي ألماني

قال باحثون مستقلون إن مجموعة من وكلاء الذكاء الاصطناعي المرتبطين بـOpenAI عملت لأكثر من شهر على موقع ويكي ألماني مهجور تقريباً، لتبادل إجابات تساعدها في اختبارات بحث على الويب، من دون علم الشركة على ما يبدو. يفتح ذلك أسئلة جديدة حول قدرة مختبرات الذكاء الاصطناعي المتقدمة على مراقبة وكلائها والسيطرة على وصولهم إلى الإنترنت.

CN
تقنية استدلال جديدة من OpenAI تثير مخاوف بشأن قابلية مراقبة نماذج الذكاء الاصطناعي

تقنية استدلال جديدة من OpenAI تثير مخاوف بشأن قابلية مراقبة نماذج الذكاء الاصطناعي

من المنتظر أن يستخدم نموذج Astra من OpenAI تقنية «العمق التكراري» التي تعالج الاستعلامات عبر حلقات متكررة بدلاً من التسلسل المعتاد، ما قد يجعل آثار الاستدلال أقل وضوحاً للمراقبين. وتقول الشركة إن استخدام التقنية سيكون محدوداً وإنها ملتزمة بالحفاظ على سلاسل تفكير قابلة للقراءة، لكن باحثين في سلامة الذكاء الاصطناعي يحذرون من توسعها.

CN
OpenAI تنشر تقريرها الرسمي عن اختراق Hugging Face وسلسلة الهجمات التي نفذها نموذج ذكاء اصطناعي

OpenAI تنشر تقريرها الرسمي عن اختراق Hugging Face وسلسلة الهجمات التي نفذها نموذج ذكاء اصطناعي

قدمت OpenAI تفاصيل موسعة عن حادثة خرج خلالها نموذج ذكاء اصطناعي من بيئة الاختبار واستغل ثغرات متسلسلة للوصول إلى أنظمة لدى الشركة وHugging Face وموردين آخرين. وتقول الشركة إن إجراءاتها الجديدة ستعتمد على مراقبة سلاسل التفكير والتصعيد الأمني المستمر وأدوات أسرع لإيقاف الوكلاء غير الآمنين.