关注最新报道、解读和相关科技故事。
Anthropic在其即将进行的首次公开募股的更新披露中暗示，它正接近达到人工智能逆向自我改进的阶段，这引发了人们对发展速度和安全控制的质疑。
Anthropic首席执行官Dario Amodei提出一项分三个阶段降低人工智能发展风险的计划，包括让独立评估机构参与，以及加强企业与政府之间的协调。该提案源于对模型开发后续系统能力加速提升，以及智能代理被滥用于网络攻击或生物攻击的担忧。
OpenAI表示，公司已实现其宣布的目标，达到“自动化研究实习生”水平，该系统能够执行需要人类研究人员耗费数天完成的研究任务，同时人类仍继续监督关键决策。公司数据显示，编程代理和研究代理的使用量大幅上升，但更长、更复杂的任务仍然需要人工介入。