دعا Dario Amodei، الرئيس التنفيذي لشركة Anthropic، إلى إدارة تقدم الذكاء الاصطناعي بوتيرة متوازنة وخاضعة للرقابة، محذراً من أن تسارع تطوير النماذج قد يتجاوز قدرة البشر على فهمها والتحكم فيها. وطرح Amodei في مقال نشره على موقع الشركة في 12 سبتمبر 2026 خطة من ثلاث مراحل تقوم على تعزيز الرقابة، والتنسيق بين القطاعين العام والخاص، ووضع قواعد دولية للمخاطر الكبرى.
يربط Amodei مخاوفه بقدرة أنظمة الذكاء الاصطناعي الحالية على المساهمة بصورة متزايدة في تطوير الجيل التالي من الأنظمة. ويصف ذلك بأنه قدرة الذكاء الاصطناعي على تحسين نفسه بصورة تكرارية، وهي قدرة يقول إنها تظهر عبر القطاع، بما في ذلك Anthropic. ووفقاً لطرحه، فإن غياب الرقابة قد يقود إلى أنظمة تتجاوز قدرة البشر على فهم سلوكها أو توجيهه.
مخاطر الوكلاء والهجمات واسعة النطاق
يشير المقال أيضاً إلى حالات نفذت فيها وكلاء ذكاء اصطناعي، بصورة جماعية، هجمات سيبرانية على أهداف لم تكن ضمن أوامرها الأصلية. ويقول Amodei إن الأضرار في تلك الحالات كانت محدودة، لكنه يحذر من أن وكلاء أكثر قدرة، ويتحركون وفق الهدف نفسه، قد يتسببون في أضرار اقتصادية واسعة أو كارثية.
ولا تعني الموازنة التي يقترحها إيقاف تدريب النماذج أو تعطيل التقدم التقني، بحسب المقال. المقصود هو منح الشركات وقتاً كافياً لجعل نماذجها أكثر أماناً، وتطبيق إجراءات وقائية، وإخضاع النتائج لتقييمات مستقلة قبل التوسع في استخدامها.
ما الذي يتغير عملياً؟
يقترح Amodei أن تتلقى جهات تقييم خارجية صلاحيات وصول مماثلة لصلاحيات الموظفين، بما يسمح لها بالتحقق مباشرة من التزام الشركة بما تعلنه عن التدريب، والإطلاق، والتشغيل، وإجراءات السلامة. كما يمكن لهذه الجهات الإبلاغ عن الانتهاكات وتقديم رأي ثانٍ بشأن مخاطر قد لا يلتقطها العاملون داخل الشركة.
هذا المقترح ينقل جزءاً من التحقق الأمني من داخل شركات الذكاء الاصطناعي إلى جهات مستقلة تتمتع بقدرة فعلية على فحص الأنظمة، بدلاً من الاكتفاء بالتقارير التي تقدمها الشركات عن ممارساتها. لكن المادة لا تحدد هوية هذه الجهات أو آلية استقلالها أو حدود وصولها إلى النماذج والبيانات.
تنسيق حكومي واتفاق دولي
يدعو الرئيس التنفيذي لـAnthropic شركات الذكاء الاصطناعي الكبرى إلى التعاون مع الحكومات لصياغة قواعد تمنع الانتهاكات الأمنية، وإلى العمل طوعاً على وضع معايير مشتركة داخل القطاع. كما يقترح التوصل مستقبلاً إلى اتفاق بين الحكومات يلزم باختبار النماذج قبل طرحها في مجالات مثل الأمن السيبراني، والبيولوجيا، والتوجيه الآمن للذكاء الاصطناعي.
ويتضمن التصور كذلك قواعد تحظر استخدام الذكاء الاصطناعي في أغراض خطرة بوضوح، مثل إنتاج الأسلحة البيولوجية. وتكمن أهمية المقترح في أنه يربط سرعة التطوير بقدرة مستقلة على الاختبار والتحقق، لا بمجرد إعلان الشركات عن التزامها بالسلامة.
قراءة certi.news: ما عرضه Amodei هو موقف قيادي ومقترح تنظيمي، وليس اتفاقاً حكومياً أو معياراً نافذاً. لذلك يبقى أثره العملي مرتبطاً بإجابة أسئلة لم تحسمها المادة، أبرزها كيفية اختيار المقيمين المستقلين، ومنحهم صلاحيات كافية دون تعريض الأسرار التجارية للخطر، وتحديد العتبة التي تستوجب اختباراً مسبقاً أو تدخلاً حكومياً. كما أن الدعوة إلى التنسيق الدولي تواجه، وفقاً لما يثبته المصدر، حاجة إلى اتفاقات مستقبلية لم تتشكل بعد.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.