إساءة استخدام نماذج الذكاء الاصطناعي في التضليل أو المراقبة أو تطوير الأسلحة أو التحكم في أنظمة مادية خطرة.
حدّثت Anthropic سياسة استخدام Claude لمنع الإساءة المستمرة والمتعمدة للنموذج، وأضافت قيوداً على الحملات الخادعة، والتلاعب بالانتخابات، وتطوير الأسلحة، والمراقبة، والتحكم في عتاد قد يسبب ضرراً. تدخل السياسة الجديدة حيز التنفيذ في 12 نوفمبر.