Risque de refus excessif des demandes par le modèle, l’un des aspects à tester en plus des dommages et des précautions.
Anthropic a lancé un programme de subventions de 5 millions de dollars destiné à financer des recherches indépendantes et open source mesurant l’impact des systèmes d’intelligence artificielle sur le bien-être des utilisateurs. Le programme se concentre sur les conversations à plusieurs tours, les crises de santé mentale et les risques liés à une réponse excessivement complaisante ou à un refus excessif.