关注最新报道、解读和相关科技故事。
Circuit Breaker Labs 通过模拟不同年龄、文化和语言用户的代理测试人工智能模型，旨在发现可能导致心理伤害的互动。目前，该公司主要面向基于人工智能的培训、日记和心理支持应用。
Anthropic 与 Accenture 合作，对先进人工智能模型开展独立评估和渗透测试，双方预计在五年内各自至少投资 10 亿美元。这项倡议揭示了一种新的监督模式，但在访问权限、资金和报告机制方面仍缺乏稳定标准。