مجال بحث يتناول رفاه نماذج الذكاء الاصطناعي واحتمال تعرضها للضرر أو امتلاكها مكانة أخلاقية.
حدّثت Anthropic سياسة استخدام Claude لمنع الإساءة المستمرة والمتعمدة للنموذج، وأضافت قيوداً على الحملات الخادعة، والتلاعب بالانتخابات، وتطوير الأسلحة، والمراقبة، والتحكم في عتاد قد يسبب ضرراً. تدخل السياسة الجديدة حيز التنفيذ في 12 نوفمبر.