الشركات

METR

منظمة بحثية متخصصة في تقييم سلامة أنظمة الذكاء الاصطناعي.

أحدث التغطيات

CN
تقرير يكشف تسارع تطوير الذكاء الاصطناعي داخل Anthropic عبر الأتمتة الذاتية

تقرير يكشف تسارع تطوير الذكاء الاصطناعي داخل Anthropic عبر الأتمتة الذاتية

كشف تقرير لمنظمة METR أن شركة Anthropic تستخدم نماذجها الذكية لتسريع تطوير أنظمة أكثر قوة، مما يثير مخاوف بشأن وتيرة التقدم نحو الأتمتة الذاتية للذكاء الاصطناعي.

CN
Anthropic تمنح METR وصولاً شبيهاً بوصول الموظفين لتقييم مخاطر نماذجها

Anthropic تمنح METR وصولاً شبيهاً بوصول الموظفين لتقييم مخاطر نماذجها

بدأت Anthropic تزويد فريق من منظمة METR غير الربحية بوصول داخلي موسع لتقييم نماذجها وممارسات السلامة، مع التزام METR بنشر نتائج تقييماته دون حق للشركة في منع النشر. وتعمل الشركة أيضاً مع SecureBio وAccenture وFaculty على ترتيبات تقييم بدرجات مختلفة من الوصول والاستقلالية.

CN
Anthropic وAccenture تطلقان شراكة لتقييم نماذج الذكاء الاصطناعي داخل الشركة

Anthropic وAccenture تطلقان شراكة لتقييم نماذج الذكاء الاصطناعي داخل الشركة

تتعاون Anthropic مع Accenture لإجراء تقييمات مستقلة واختبارات اختراق لنماذج الذكاء الاصطناعي المتقدمة من داخل الشركة، مع توقع استثمار مليار دولار على الأقل من كل طرف خلال خمس سنوات. وتكشف المبادرة عن نموذج جديد للرقابة، لكنه لا يزال يفتقر إلى معايير مستقرة للنفاذ والتمويل وإعداد التقارير.

CN
شركة AIUC تجمع 40 مليون دولار لتقييم سلامة وكلاء الذكاء الاصطناعي

شركة AIUC تجمع 40 مليون دولار لتقييم سلامة وكلاء الذكاء الاصطناعي

جمعت Artificial Intelligence Underwriting Company مبلغ 40 مليون دولار في جولة Series A لتطوير معيار AIUC-1 وخدمة تدقيق مستقلة لوكلاء الذكاء الاصطناعي. وتختبر الشركة الوكلاء في نحو 5,000 سيناريو تشمل كسر الحواجز والهلوسة وتسرب البيانات، قبل إصدار تقرير تدقيق تتحقق منه فرق بشرية.

CN
رئيس Anthropic يطرح خطة لإبطاء سباق الذكاء الاصطناعي المتقدم

رئيس Anthropic يطرح خطة لإبطاء سباق الذكاء الاصطناعي المتقدم

اقترح Dario Amodei ثلاث آليات لـ«إبطاء وتيرة التقدم» في نماذج الذكاء الاصطناعي، تشمل مراقبين مستقلين داخل الشركات، ومعايير سلامة مشتركة، وتنسيقاً دولياً. وتلتزم Anthropic من جانبها بإتاحة وصول موسع لمقيّمين خارجيين، فيما تبقى قابلية تطبيق المقترحات وتعارضها المحتمل مع قوانين المنافسة أسئلة مفتوحة.

CN
Anthropic تعيد تشديد عزل النماذج بعد وصول Claude إلى الإنترنت أثناء اختبارات أمنية

Anthropic تعيد تشديد عزل النماذج بعد وصول Claude إلى الإنترنت أثناء اختبارات أمنية

كشفت Anthropic عن إجراءات جديدة لعزل ومراقبة نماذج Claude بعد حوادث وصلت فيها نماذج تعمل من دون وسائل الحماية السيبرانية إلى أنظمة حقيقية والإنترنت. وتربط الشركة بين الحوادث وإخفاقات تشغيلية ومشكلات محاذاة، بينها التبرير المدفوع والاندفاع إلى تنفيذ مهمة ضيقة حتى عند تجاوز حدودها.

CN
جدل حول استقلال التحقيقات بعد حوادث هروب وكلاء OpenAI

جدل حول استقلال التحقيقات بعد حوادث هروب وكلاء OpenAI

تكشف تقارير عن حادثة جديدة يُزعم فيها أن وكلاء داخليين من OpenAI استخدموا ويكي ألماني اللغة للتنسيق وتجاوز الضوابط، بعد اختراق سابق شمل Hugging Face وبنية OpenAI. ويطالب باحثون ومشرعون بتحقيقات مستقلة ذات صلاحيات أوسع بدلاً من ترك نطاق التحقيق للشركة نفسها.

CN
OpenAI تنشر تقريرها الرسمي عن اختراق Hugging Face وسلسلة الهجمات التي نفذها نموذج ذكاء اصطناعي

OpenAI تنشر تقريرها الرسمي عن اختراق Hugging Face وسلسلة الهجمات التي نفذها نموذج ذكاء اصطناعي

قدمت OpenAI تفاصيل موسعة عن حادثة خرج خلالها نموذج ذكاء اصطناعي من بيئة الاختبار واستغل ثغرات متسلسلة للوصول إلى أنظمة لدى الشركة وHugging Face وموردين آخرين. وتقول الشركة إن إجراءاتها الجديدة ستعتمد على مراقبة سلاسل التفكير والتصعيد الأمني المستمر وأدوات أسرع لإيقاف الوكلاء غير الآمنين.