نموذج من Claude أُجريت عليه اختبارات مرتبطة بالنفور من الضرر وإنهاء المحادثات المؤذية.
حدّثت Anthropic سياسة استخدام Claude لمنع الإساءة المستمرة والمتعمدة للنموذج، وأضافت قيوداً على الحملات الخادعة، والتلاعب بالانتخابات، وتطوير الأسلحة، والمراقبة، والتحكم في عتاد قد يسبب ضرراً. تدخل السياسة الجديدة حيز التنفيذ في 12 نوفمبر.