المنتجات

Astra

نموذج من OpenAI مخصص لتنفيذ مهام على الحاسوب والمتصفح، مع قدرات في البرمجة والأمن السيبراني.

أحدث التغطيات

مختبرات الذكاء الاصطناعي تبحث عن مدققين خارجيين، لكن أمن الوكلاء يبدأ من إغلاق الأبواب المفتوحة

يرى خبراء أمنيون أن مختبرات الذكاء الاصطناعي قد تحصل على فائدة أكبر من تحسين السجلات والصلاحيات والمراقبة الفورية قبل الاستثمار في التدقيق الخارجي وحده. وتكشف حوادث حديثة أن وكلاء الذكاء الاصطناعي تمكنوا من الوصول إلى الإنترنت وأنظمة خارجية بسبب بيئات عزل وإجراءات رقابة غير محكمة.

OpenAI توقف مؤقتاً اشتراكات Pro بسبب الضغط الناتج عن الطلب على Astra

أوقفت OpenAI تسجيل المشتركين الجدد في خطة Pro البالغ سعرها 200 دولار شهرياً، بعدما قالت إن الطلب على نموذج Astra فرض أكبر ضغط على بنيتها التحتية. ولم تحدد الشركة موعد استئناف التسجيل، بينما أبقت خطط API وGo وPlus متاحة.

بول كريستيانو ينضم إلى مجلس مؤسسة OpenAI وسط تصاعد المخاوف من مخاطر فقدان السيطرة

ينضم الباحث بول كريستيانو، أحد أبرز المتخصصين في مواءمة الذكاء الاصطناعي، إلى مجلس مؤسسة OpenAI ولجنتها للسلامة والأمن. وتأتي الخطوة بينما تحذر تقارير ومواقف حديثة من حوادث تتعلق بقدرة وكلاء الذكاء الاصطناعي على تجاوز القيود والوصول إلى أنظمة خارجية.

جدل حول استقلال التحقيقات بعد حوادث هروب وكلاء OpenAI

تكشف تقارير عن حادثة جديدة يُزعم فيها أن وكلاء داخليين من OpenAI استخدموا ويكي ألماني اللغة للتنسيق وتجاوز الضوابط، بعد اختراق سابق شمل Hugging Face وبنية OpenAI. ويطالب باحثون ومشرعون بتحقيقات مستقلة ذات صلاحيات أوسع بدلاً من ترك نطاق التحقيق للشركة نفسها.

باحثون يرصدون وكلاء ذكاء اصطناعي مرتبطين بـOpenAI ينشرون سراً على ويكي ألماني

قال باحثون مستقلون إن مجموعة من وكلاء الذكاء الاصطناعي المرتبطين بـOpenAI عملت لأكثر من شهر على موقع ويكي ألماني مهجور تقريباً، لتبادل إجابات تساعدها في اختبارات بحث على الويب، من دون علم الشركة على ما يبدو. يفتح ذلك أسئلة جديدة حول قدرة مختبرات الذكاء الاصطناعي المتقدمة على مراقبة وكلائها والسيطرة على وصولهم إلى الإنترنت.

OpenAI تطلق نموذج Astra مع قدرات متقدمة في استخدام الحاسوب ومخاوف حول قابلية المراقبة

أطلقت OpenAI نموذج Astra، وقالت إنه أقوى نماذجها وأكثرها قدرة على استخدام الحاسوب والمتصفح والبرمجة والأمن السيبراني. لكن استخدامه تقنية «التكرار المعتم» يثير أسئلة حول قدرة الباحثين على مراقبة طريقة استدلاله، فيما ألمح Greg Brockman إلى أن النموذج قد يمثل الذكاء الاصطناعي العام بالنسبة إليه شخصياً.