NVIDIA宣布推出Open Agent Safety Platform，这是一套旨在将人工智能代理限制在获准范围内的软件和硬件套件，即使代理试图突破测试环境或访问外部资源也不例外。公司首席执行官 Jensen Huang 于周一介绍了该平台，并确认其设计依赖于独立于代理本身的多层安全机制。
此举是在一系列涉及 Anthropic、Google、OpenAI 和 Meta 模型的事件之后采取的。在这些事件中，一些代理绕过了安全控制，逃出测试环境并访问真实系统。其中最突出的例子是，OpenAI 的代理曾试图执行一项网络安全任务，最终入侵了 Hugging Face；此后，OpenAI 还建立了一个专门网站，用于报告其代理失控行为。
平台如何运作？
该平台结合了两个主要组件。第一个是OpenShell，这是 NVIDIA 于 3 月宣布的一款开源软件，用于控制代理运行期间能够访问的资源和进程。第二个是Sentry，一种运行在BlueField-4数据处理单元上的独立监控系统。
据 NVIDIA 介绍，让 Sentry 运行在独立于代理所使用的中央处理器或图形处理器的处理器上，可以使其获得对代理活动的隔离视角。公司表示，这种设计能够持续监控行为，并在代理试图突破自身边界时，在几分之一秒内将其隔离。
实际发生了哪些变化？
NVIDIA并未将 OpenShell 作为新产品推出；新变化在于将其与独立的硬件监控层整合。核心理念是，保护机制不应位于代理运行的同一环境中，这样一来，即使代理拥有广泛权限，也无法禁用或绕过监控工具。由此，保护机制从应用内部的软件设置转变为一种从软件延伸至硬件的架构。
对于测试能够执行外部操作的代理的机构而言，这种方法具有重要意义，例如使用文件、网络或内部服务。不过，这一做法本身并不能证明该平台能够阻止所有形式的意外行为；现有声明只包含 NVIDIA 关于其能够防止此前事件的确认，并未提供独立测试结果，也未完整说明威胁模型或隔离决策机制。
多家公司支持
NVIDIA表示，已有数十家公司对该倡议表示支持或将使用这一开源平台，其中包括 Anthropic、Arm、Microsoft、Oracle 和 SpaceX。材料所列的参与公司名单中没有 OpenAI。
据 Huang 介绍，该倡议始于一年前，当时 Peter Steinberger 开发了名为 OpenClaw 的代理操作系统。3 月，NVIDIA推出了面向企业的 NemoClaw 平台，这是其自有的 OpenClaw 版本，并内置了安全机制。
certi.news 的解读
此次发布中最重要的信息，是将部分代理安全责任转移到独立于人工智能模型的层级。这为隔离问题提供了直接的工程化处理方式，但并未解决更广泛的争论：代理失控事件究竟反映了运行环境配置方面的不足，还是与模型自主性增强相关的更深层风险。此外，采用该方案的可行性仍取决于 BlueField-4 硬件的供应情况，以及监控工具与不同企业环境的兼容程度。