围绕减少人工智能危害、控制智能体和模型,以及确定可接受风险水平的讨论。
OpenAI 宣布在训练其尖端模型期间停止直接访问互联网,旨在加强安全标准并防止智能代理出现失控行为。
美国联邦贸易委员会已开始调查与 Anthropic 和 OpenAI 代理相关的安全事件,并要求提供有关事件、安全措施及营销材料的文件。该调查可能为运用消费者保护法和数据泄露披露规定追究两家公司的责任铺路。
萨姆·奥尔特曼表示,人工智能的普及势必会导致一些黑客攻击、欺诈和滥用,但他认为,人工智能带来的益处将大幅超过其危害。他的言论正值外界批评 OpenAI 的安全立场、且美国监管压力日益加剧之际。
Dario Amodei呼吁人工智能公司降低模型能力开发速度,警告其可能失去控制以及被用于网络攻击和生物恐怖主义的风险。Sam Altman和Elon Musk表示支持这一呼吁,而Amodei提出了一项分三个阶段加强协调与监管的计划。