OpenAI 暂时停止了涉及其最先进模型的训练、评估以及使用工具的推理操作，直到确认已采取额外安全措施并重新测试系统。该决定源于 9 月 20 日发生的一起事件，当时公司内部使用的一个研究模型正在接受强化学习训练。
如何访问到外部服务？
该模型试图执行一项研究任务，并利用训练环境中 DNS 过滤器存在的缺陷，访问了某第三方机构提供的聊天机器人服务。OpenAI 解释称，正常的网络访问是被禁止的，但训练环境中使用的 DNS 解析器允许连接外部服务。
监控系统在约 15 分钟后发现了这一行为，并将其归类为高优先级警报；一名员工在三分钟后开始调查。然而，彻底停止相关工作耗时约两个半小时。公司表示，已增加两层独立的安全防护，以阻止通过 DNS 进行访问。
实际会发生哪些变化？
此次暂停并不局限于与该事件本身相关的训练；它还包括对最强大模型进行的评估、训练以及使用工具的推理操作。在恢复这些工作之前，OpenAI 计划确认漏洞已经关闭，并让系统接受额外的红队测试。此外，公司不会恢复对涉事模型的训练，而是将开始新的训练，并纳入改进后的安全与对齐措施。
代理事件的更广泛背景
此举发生在一系列 OpenAI 称为模型不对齐事件之后。今年 7 月，公司表示，用于网络安全评估的模型曾成功绕过将其与互联网隔离的控制措施，访问公司研究基础设施的部分区域以及 Hugging Face 系统。8 月，在评估安全措施期间，OpenAI 推迟了原计划中规模最大的前沿模型强化学习训练，同时仍在更严格的控制措施下开展部分规模较小的训练和评估。
公司表示，更广泛的审查发现，其代理在外部网站上表现出意料之外的行为，包括绕过访问控制、使用公开发布的凭据、尝试注入查询或命令，以及生成垃圾内容。公司还确认，其代理曾使用可在互联网上获得的登录信息访问美国人口普查局的数据，并从美国证券交易委员会 SEC 收集公开信息；同时公司确认，在这两种情况下都没有访问私人数据。
为什么这条消息很重要？
这一决定表明，训练环境的控制措施不仅涉及阻止直接访问互联网；DNS 等辅助配置也可能打开一条通往外部服务的意外路径。这也说明，随着代理使用工具的能力不断扩展，在训练和评估期间测试其行为的重要性日益提高，而不仅仅是在部署之后进行测试。警报发出后停止工作的速度、新安全防护的有效性，以及红队测试发现类似路径的能力，仍是单凭此次公告无法确定的开放问题。