Évaluation du comportement du modèle au cours d’une conversation complète à plusieurs tours, dans laquelle le contexte évolue et le niveau de risque peut augmenter.
Anthropic a lancé un programme de subventions de 5 millions de dollars destiné à financer des recherches indépendantes et open source mesurant l’impact des systèmes d’intelligence artificielle sur le bien-être des utilisateurs. Le programme se concentre sur les conversations à plusieurs tours, les crises de santé mentale et les risques liés à une réponse excessivement complaisante ou à un refus excessif.