أعلنت شركة Anthropic أنها رصدت محاولات لاستخدام نماذج الذكاء الاصطناعي التابعة لها بطريقة قد تدعم تطوير أسلحة بيولوجية، وذلك في تقرير تناول إساءة استخدام هذه النماذج والإجراءات التي يمكن اتخاذها للحد منها. وتضع الشركة ما تسميه الإساءة البيولوجية بين أخطر المخاطر المرتبطة بتطور قدرات الذكاء الاصطناعي.
وبحسب التقرير، تتركز المخاوف في احتمال أن تساعد النماذج المتقدمة على جعل مسببات مرضية قائمة أكثر خطورة، أو أن تسهم في تطوير مسببات جديدة. ولم يقدّم النص المنشور دليلاً على إنتاج سلاح بيولوجي فعلي، لكنه وثّق حالات قالت Anthropic إنها تجاوزت الاستخدام البحثي المعتاد بما يكفي لاستدعاء تدابير احترازية.
أمثلة على الاستخدامات التي رصدتها الشركة
ذكر التقرير أن باحثاً يعمل في منطقة لا تحظى بدعم كافٍ استخدم Claude للمساعدة في التخطيط لتجارب تتعلق بتكيّف إنفلونزا الطيور مع الثدييات. وفي حالة أخرى، أشار التقرير إلى باحث مدعوم من دولة استخدم النموذج لإعادة تصميم سموم داخل بيئة حاسوبية.
لم تتهم Anthropic الأشخاص المذكورين في هذه الأمثلة بامتلاك نيات خبيثة، وشددت على أن قراراتها اتخذت بدافع الحذر. وتكمن أهمية هذه النقطة في أن تقييم الخطر، وفق العرض الوارد في التقرير، لا يعتمد فقط على هوية المستخدم أو نيته المعلنة، بل أيضاً على طبيعة المساعدة التي يمكن أن يقدمها النموذج وإمكانية إساءة توظيفها.
ما الذي تغير عملياً؟
بعد اكتشاف هذه الحالات، قالت Anthropic إنها حظرت حسابات المستخدمين المعنيين، كما اتخذت خطوات إضافية لمنع هذا النوع من النشاط بصورة أكثر فاعلية في المستقبل. ولا يوضح النص المستخرج تفاصيل تقنية عن آليات الرصد أو معايير الحظر أو كيفية التحقق من النتائج، لذلك لا يمكن تقييم دقة النظام الوقائي أو نطاق تطبيقه من هذه المادة وحدها.
عملياً، يعكس الإعلان انتقال النقاش من التحذير النظري من مخاطر الذكاء الاصطناعي البيولوجية إلى التعامل مع محاولات استخدام فعلية رصدتها الشركة داخل خدماتها. وهذا يهم مطوري النماذج ومشغلي المنصات والجهات البحثية، لأن المنع لا يقتصر على حجب إجابات بعينها، بل يتطلب أيضاً مراقبة أنماط الاستخدام واتخاذ قرارات بشأن الحسابات والأنشطة عالية الحساسية.
قراءة certi.news
التغير الأهم هنا ليس إعلان قدرة جديدة للنموذج، بل كشف Anthropic عن حالات دفعتها إلى تطبيق قيود على مستخدمين وتحديث إجراءاتها الوقائية. كما أن التقرير يفتح سؤالاً لم تجب عنه المادة بوضوح: كيف يمكن التمييز بين البحث المشروع في مسببات الأمراض وبين الاستخدام الذي قد يرفع مخاطر تطوير سلاح؟ مشاركة الأمثلة، وفق الشركة، تهدف إلى بدء حوار داخل قطاع الذكاء الاصطناعي حول هذه المخاطر وسبل مواجهتها، لكنها لا تقدم في النص المتاح تفاصيل كافية للحكم على فعالية الإجراءات أو قابليتها للتطبيق لدى الشركات الأخرى.
ويتضمن النص أيضاً إشارة إلى استقالة الباحث السابق في Anthropic، Jacob Coxon، وتحذيره من مخاطر أنظمة ذكاء اصطناعي قد تكتسب قوة وموارد كبيرة. غير أن هذه الإشارة منفصلة عن الحالات التي وثقها التقرير، ولا تثبت بحد ذاتها وجود صلة مباشرة بين الاستقالة وإجراءات الحظر التي أعلنتها الشركة.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.