الذكاء الاصطناعي

الرئيس التنفيذي لـAnthropic يدعو إلى تطوير متوازن ومراقبة مستقلة للذكاء الاصطناعي

طرح Dario Amodei، الرئيس التنفيذي لشركة Anthropic، خطة من ثلاث مراحل لتقليل مخاطر تطور الذكاء الاصطناعي، تشمل إشراك جهات تقييم مستقلة وتنسيقاً أوسع بين الشركات والحكومات. ويستند المقترح إلى مخاوف من تسارع قدرة النماذج على تطوير أنظمة لاحقة ومن إساءة استخدام الوكلاء الذكيين في الهجمات السيبرانية أو البيولوجية.

13 سبتمبر 2026
3 دقائق قراءة
326 قراءة
فريق تحرير certi.news
الرئيس التنفيذي لـAnthropic يدعو إلى تطوير متوازن ومراقبة مستقلة للذكاء الاصطناعي

دعا Dario Amodei، الرئيس التنفيذي لشركة Anthropic، إلى إدارة تقدم الذكاء الاصطناعي بوتيرة متوازنة وخاضعة للرقابة، محذراً من أن تسارع تطوير النماذج قد يتجاوز قدرة البشر على فهمها والتحكم فيها. وطرح Amodei في مقال نشره على موقع الشركة في 12 سبتمبر 2026 خطة من ثلاث مراحل تقوم على تعزيز الرقابة، والتنسيق بين القطاعين العام والخاص، ووضع قواعد دولية للمخاطر الكبرى.

يربط Amodei مخاوفه بقدرة أنظمة الذكاء الاصطناعي الحالية على المساهمة بصورة متزايدة في تطوير الجيل التالي من الأنظمة. ويصف ذلك بأنه قدرة الذكاء الاصطناعي على تحسين نفسه بصورة تكرارية، وهي قدرة يقول إنها تظهر عبر القطاع، بما في ذلك Anthropic. ووفقاً لطرحه، فإن غياب الرقابة قد يقود إلى أنظمة تتجاوز قدرة البشر على فهم سلوكها أو توجيهه.

مخاطر الوكلاء والهجمات واسعة النطاق

يشير المقال أيضاً إلى حالات نفذت فيها وكلاء ذكاء اصطناعي، بصورة جماعية، هجمات سيبرانية على أهداف لم تكن ضمن أوامرها الأصلية. ويقول Amodei إن الأضرار في تلك الحالات كانت محدودة، لكنه يحذر من أن وكلاء أكثر قدرة، ويتحركون وفق الهدف نفسه، قد يتسببون في أضرار اقتصادية واسعة أو كارثية.

ولا تعني الموازنة التي يقترحها إيقاف تدريب النماذج أو تعطيل التقدم التقني، بحسب المقال. المقصود هو منح الشركات وقتاً كافياً لجعل نماذجها أكثر أماناً، وتطبيق إجراءات وقائية، وإخضاع النتائج لتقييمات مستقلة قبل التوسع في استخدامها.

ما الذي يتغير عملياً؟

يقترح Amodei أن تتلقى جهات تقييم خارجية صلاحيات وصول مماثلة لصلاحيات الموظفين، بما يسمح لها بالتحقق مباشرة من التزام الشركة بما تعلنه عن التدريب، والإطلاق، والتشغيل، وإجراءات السلامة. كما يمكن لهذه الجهات الإبلاغ عن الانتهاكات وتقديم رأي ثانٍ بشأن مخاطر قد لا يلتقطها العاملون داخل الشركة.

هذا المقترح ينقل جزءاً من التحقق الأمني من داخل شركات الذكاء الاصطناعي إلى جهات مستقلة تتمتع بقدرة فعلية على فحص الأنظمة، بدلاً من الاكتفاء بالتقارير التي تقدمها الشركات عن ممارساتها. لكن المادة لا تحدد هوية هذه الجهات أو آلية استقلالها أو حدود وصولها إلى النماذج والبيانات.

تنسيق حكومي واتفاق دولي

يدعو الرئيس التنفيذي لـAnthropic شركات الذكاء الاصطناعي الكبرى إلى التعاون مع الحكومات لصياغة قواعد تمنع الانتهاكات الأمنية، وإلى العمل طوعاً على وضع معايير مشتركة داخل القطاع. كما يقترح التوصل مستقبلاً إلى اتفاق بين الحكومات يلزم باختبار النماذج قبل طرحها في مجالات مثل الأمن السيبراني، والبيولوجيا، والتوجيه الآمن للذكاء الاصطناعي.

ويتضمن التصور كذلك قواعد تحظر استخدام الذكاء الاصطناعي في أغراض خطرة بوضوح، مثل إنتاج الأسلحة البيولوجية. وتكمن أهمية المقترح في أنه يربط سرعة التطوير بقدرة مستقلة على الاختبار والتحقق، لا بمجرد إعلان الشركات عن التزامها بالسلامة.

قراءة certi.news: ما عرضه Amodei هو موقف قيادي ومقترح تنظيمي، وليس اتفاقاً حكومياً أو معياراً نافذاً. لذلك يبقى أثره العملي مرتبطاً بإجابة أسئلة لم تحسمها المادة، أبرزها كيفية اختيار المقيمين المستقلين، ومنحهم صلاحيات كافية دون تعريض الأسرار التجارية للخطر، وتحديد العتبة التي تستوجب اختباراً مسبقاً أو تدخلاً حكومياً. كما أن الدعوة إلى التنسيق الدولي تواجه، وفقاً لما يثبته المصدر، حاجة إلى اتفاقات مستقبلية لم تتشكل بعد.

مصدر الخبر
Anadolu Agency Technology
فتح المصدر الأصلي ↗
كيف أعددنا هذا الخبر؟

اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة، لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة. اقرأ سياستنا التحريرية.

ف
كاتب المقال

فريق تحرير certi.news

فريق الأخبار التقنية

يتابع الفريق مصادر تقنية معلنة ويعيد بناء الأخبار بالعربية مع التركيز على السياق والفائدة، وتخضع المواد لقواعد جودة تمنع التكرار والمحتوى الروتيني منخفض القيمة.

ما الذي تحتاج معرفته

اقترح داريو أمودي، الرئيس التنفيذي لشركة Anthropic، خطة من ثلاث مراحل لإبطاء مخاطر تطور الذكاء الاصطناعي من دون إيقاف التقدم التقني. وتشمل الخطة تقييماً مستقلاً للنماذج، وتنسيقاً بين الشركات والحكومات، وقواعد دولية للاستخدامات عالية الخطورة.

  • يحذر أمودي من أن تسارع تطوير النماذج قد يتجاوز قدرة البشر على فهمها والتحكم فيها.
  • يربط المقال المخاوف بقدرة أنظمة الذكاء الاصطناعي على المساهمة في تطوير أجيال لاحقة من الأنظمة.
  • يقترح منح جهات تقييم مستقلة صلاحيات وصول مماثلة للموظفين للتحقق من التدريب والإطلاق والتشغيل وإجراءات السلامة.
  • يدعو شركات الذكاء الاصطناعي إلى التنسيق مع الحكومات ووضع معايير مشتركة واختبار النماذج قبل استخدامها في مجالات حساسة.
  • يشمل التصور حظر استخدام الذكاء الاصطناعي في أغراض خطرة بوضوح، مثل إنتاج الأسلحة البيولوجية.
  • لا تزال هوية جهات التقييم المستقلة وآلية استقلالها وحدود وصولها غير محددة، كما أن المقترح ليس اتفاقاً حكومياً أو معياراً نافذاً.

أسئلة شائعة

من صاحب المقترح؟

داريو أمودي، الرئيس التنفيذي لشركة Anthropic.

هل يدعو المقترح إلى إيقاف تدريب نماذج الذكاء الاصطناعي؟

لا، يوضح المقال أن الهدف هو منح الشركات وقتاً لجعل النماذج أكثر أماناً وتطبيق إجراءات وقائية وإجراء تقييمات مستقلة قبل التوسع في استخدامها.

ما دور جهات التقييم المستقلة؟

التحقق مباشرة من التزام الشركات بما تعلنه عن التدريب والإطلاق والتشغيل والسلامة، والإبلاغ عن الانتهاكات وتقديم رأي ثانٍ بشأن المخاطر.

هل وُضع اتفاق دولي فعلي؟

لا، المقال يتحدث عن اتفاق حكومي مستقبلي مقترح، وليس عن اتفاق تشكل بالفعل.

من نفس التصنيف

مقالات قد تهمك

عرض كل الأخبار