感情的な支援や心理的リスクを含め、AIシステムがユーザーのウェルビーイングに与える影響を研究すること。
Anthropicは、AIシステムがユーザーのウェルビーイングに与える影響を測定する独立したオープンソース研究に、500万ドルを助成するプログラムを開始した。プログラムは、複数ターンの会話、メンタルヘルスの危機、過剰な応答や過剰な拒否のリスクに重点を置く。