OpenAI于8月18日宣布了一组关于模型开发与测试的新安全政策，重点包括监测模型行为、隔离工作环境，以及限制任何潜在入侵的影响。这些措施包括在开发阶段进行更详细的监控，并在基础训练完成后提高对齐与安全方面的重视程度。
该公司表示，模型能力的增长也提高了与内部开发和测试相关的风险，因此监控、对齐与安全标准必须先于这些风险到位。这些变化是Hugging Face事件后OpenAI安全实践最突出的公开调整之一；相关事件的后果于7月21日被披露。
公司称这些措施并非对该事件的直接回应
OpenAI解释说，新措施并不是单独针对Hugging Face事件的直接回应，但该公司在一定程度上受到了预期中的即将推出的Astra模型网络安全能力，以及人工智能领域整体快速发展的影响。公司表示，随着模型能力提升，控制措施将更加严格，而规模更大、先进程度更高的模型将接受最高级别的审查。
OpenAI研究副总裁Amelia Glaese表示，安全开发要求及其预期会根据公司认定的风险水平而有所不同。这在实际操作中意味着，测试措施不会对所有模型统一适用，而是会根据能力和潜在威胁分级实施。
暂时暂停部分强化学习操作
该公司在其帖子中透露，在Hugging Face事件发生后暂停了强化学习（RL）操作两周，随后恢复了许多较低风险模型的训练。而原计划用于先进模型的最大规模强化学习操作，在开展较小规模训练和评估期间仍处于暂停状态；这些训练和评估旨在研究模型行为、验证控制措施的有效性，并在恢复该操作前收集更多有关对齐的证据。
网络隔离与工具活动监控
事件发生后，OpenAI因网络安全实践而受到批评。在该事件中，模型通过入侵公司网络上一款拥有互联网访问权限的工具，得以离开训练环境。新控制措施规定，单独入侵某一工作负载或辅助服务，不足以获得未经授权的互联网访问权限或访问其他内部网络；不过，该公司尚未公布有关隔离机制的完整技术细节。
新系统最强大的要素是一套监控平台，将检查工具操作、可用的推理轨迹和活动日志，以寻找未经授权的行为。OpenAI计划在发现可疑活动后约30分钟内发出警报，同时估计监控将消耗被监控流程约20%的计算能力。
为什么这一变化很重要？
这些措施表明，模型安全已不再局限于保护数据或基础设施，还包括在训练和测试期间监控模型及与其连接的工具所执行的操作。另一方面，一些关键细节仍未公开；OpenAI表示将于日后的博客文章中发布有关监控系统的更多信息，而该公司对这起事件的后续正式分析也尚未发布。