研究人工智能系统对用户福祉的影响,包括情感支持和心理风险。
Anthropic启动了一项价值500万美元的资助计划,为衡量人工智能系统对用户福祉影响的独立、开源研究提供资金。该计划重点关注多轮对话、心理健康危机,以及过度回应或过度拒绝的风险。