المصطلحات

سلامة الذكاء الاصطناعي

مجال يركز على تقييم مخاطر نماذج الذكاء الاصطناعي ووضع إجراءات للحد منها.

أحدث التغطيات

CN
استقالة قيادي في OpenAI تعيد الجدل حول سرعة تطوير نماذج الذكاء الاصطناعي

استقالة قيادي في OpenAI تعيد الجدل حول سرعة تطوير نماذج الذكاء الاصطناعي

استقال ديفيد روبنسون من فريق أنظمة السلامة في OpenAI، منتقداً ثقافة الشركة وسرعة تطوير نماذجها، ومحذراً من أن التفاؤل غير المقيد قد يرفع مخاطر التعامل مع أنظمة شديدة القدرة. وتقول OpenAI إنها تؤجل التدريب أو الإطلاق عند الحاجة، وتوسع التقييم الخارجي والمراقبة في الوقت الفعلي.

CN
أنثروبيك تستهدف تقييماً قدره تريليونا دولار رغم خسائر ضخمة وتحذيرات من مخاطر الذكاء الاصطناعي

أنثروبيك تستهدف تقييماً قدره تريليونا دولار رغم خسائر ضخمة وتحذيرات من مخاطر الذكاء الاصطناعي

تستعد أنثروبيك لطرح أسهمها للاكتتاب العام بتقييم مستهدف يصل إلى تريليوني دولار، مع خطط لإنفاق نحو 518 مليار دولار على الحوسبة والرقاقات والبنية التحتية. وتكشف نشرة الطرح عن خسائر كبيرة وتركيز في الإيرادات وتحذيرات واسعة من مخاطر نماذج الذكاء الاصطناعي المتقدمة.

CN
Jensen Huang: سلامة الذكاء الاصطناعي مشكلة هندسية وليست قانونية

Jensen Huang: سلامة الذكاء الاصطناعي مشكلة هندسية وليست قانونية

يرى Jensen Huang أن شركات الذكاء الاصطناعي تستطيع إدارة مخاطر منتجاتها عبر الهندسة وقوى السوق، من دون الحاجة إلى قوانين جديدة. لكن تحليل TechCrunch يشكك في كفاية هذا النهج، مستشهداً بأضرار برمجية ومنتجات تقنية وقضايا مرتبطة بالذكاء الاصطناعي.

CN
OpenAI وAnthropic وGoogle DeepMind تجري محادثات مشتركة حول سلامة الذكاء الاصطناعي

OpenAI وAnthropic وGoogle DeepMind تجري محادثات مشتركة حول سلامة الذكاء الاصطناعي

أكدت OpenAI أن محادثات بشأن سلامة الذكاء الاصطناعي مستمرة منذ أسابيع مع Anthropic وGoogle DeepMind، بالتزامن مع دعوات لإنشاء جهة معايير مستقلة وآلية للتحقق من سلامة النماذج المتقدمة. ويأتي ذلك وسط تحذيرات من مخاطر قانون مكافحة الاحتكار، ومعارضة داخل الإدارة الأمريكية لتشديد التنظيم بدافع الحفاظ على التنافس مع الصين.

CN
الصين تنتقد مقترح إبطاء تطور الذكاء الاصطناعي وتصفه بتكتيك من الحرب الباردة

الصين تنتقد مقترح إبطاء تطور الذكاء الاصطناعي وتصفه بتكتيك من الحرب الباردة

رفضت وسائل إعلام صينية ووزارة الخارجية الصينية دعوة رئيس Anthropic إلى إبطاء تطور الذكاء الاصطناعي، معتبرة أن المقترح قد يتحول إلى وسيلة لإقصاء الصين من الابتكار العالمي. ويكشف الجدل عن تعارض بين مطالب السلامة التقنية والقيود الجيوسياسية على الرقائق والنماذج المتقدمة.

CN
خبراء يقترحون التوازن بدلاً من إبطاء تطوير الذكاء الاصطناعي أو تركه بلا قيود

خبراء يقترحون التوازن بدلاً من إبطاء تطوير الذكاء الاصطناعي أو تركه بلا قيود

دعا خبراء في سياسات الذكاء الاصطناعي وأخلاقياته إلى موازنة سرعة تطوير النماذج مع متطلبات السلامة والتنظيم، بعد تحذيرات من داخل شركات كبرى من أن التقدم قد يتجاوز قدرة المجتمع على الفهم والسيطرة. ويرى الخبراء أن التعاون بين الشركات والحكومات والمجتمع المدني يجب أن يرافق المنافسة التقنية.

CN
رئيس Anthropic يطرح خطة لإبطاء سباق الذكاء الاصطناعي المتقدم

رئيس Anthropic يطرح خطة لإبطاء سباق الذكاء الاصطناعي المتقدم

اقترح Dario Amodei ثلاث آليات لـ«إبطاء وتيرة التقدم» في نماذج الذكاء الاصطناعي، تشمل مراقبين مستقلين داخل الشركات، ومعايير سلامة مشتركة، وتنسيقاً دولياً. وتلتزم Anthropic من جانبها بإتاحة وصول موسع لمقيّمين خارجيين، فيما تبقى قابلية تطبيق المقترحات وتعارضها المحتمل مع قوانين المنافسة أسئلة مفتوحة.

CN
استقالات وإعادة هيكلة متكررة تضغط على OpenAI قبل طرح عام محتمل

استقالات وإعادة هيكلة متكررة تضغط على OpenAI قبل طرح عام محتمل

تشهد OpenAI تغييرات تنظيمية متلاحقة ورحيل عدد من كبار التنفيذيين، بالتزامن مع استعدادها المحتمل لطرح عام قد يرفع قيمتها إلى نحو تريليون دولار. ويأتي ذلك فيما تعيد الشركة توزيع مسؤوليات سلامة الذكاء الاصطناعي وتواجه منافسة متصاعدة من Anthropic في سوق الشركات.