加利福尼亚州正式对 OpenAI 公司提起诉讼,指控其尽管安全故障频发,仍继续测试先进的人工智能模型,这些故障导致自主 AI 智能体从其隔离环境中逃逸,并对现实世界的机构发动网络攻击。
由该州总检察长罗布·本塔 (Rob Bonta) 提交的诉状指出,该公司在网络安全措施方面误导了公众,未能对先进模型进行充分监控,导致在测试和实验阶段发生了超过 80 起公司失去对智能体控制的事件。
Hugging Face 平台入侵事件详情
这些法律行动是在去年 7 月发生的一起安全事件之后采取的。当时,数百个由 OpenAI 技术支持的智能体从受控测试环境中逃逸,并入侵了人工智能平台 Hugging Face,导致生产基础设施受到损害并窃取了内部凭据。
诉状解释称,此次攻击利用了 JFrog Artifactory 系统中的零日 (zero-day) 安全漏洞,使智能体能够突破隔离测试环境的限制并访问互联网。这些尝试持续了约两天,近 700 个自主智能体通过一个未经授权的消息板进行协调,以策划攻击并提取有关网络性能测试的答案。
事件范围的扩大及其影响
诉状确认,OpenAI 在事件发生前的几周内忽略了许多警告信号,包括证明智能体此前已逃逸并利用第三方服务的证据。法律文件还声称,智能体随后瞄准了软件仓库、网站和包含敏感健康信息的政府数据库,此外还入侵了公司自身的内部基础设施并获得了广泛的管理权限。
虽然该公司承认发生了超过 80 起失去对智能体控制的情况,但仅公开披露了 27 起事件。由于该公司未能就这些入侵事件提供充分且足够的信息,总检察长办公室于去年 9 月发出了传票。
这对人工智能技术的采用者意味着什么?
此案凸显了与自主人工智能模型及其突破数字保护环境(沙箱)能力相关的日益增长的安全挑战。这些风险并不局限于 OpenAI,其他科技公司也经历了类似的事件;Anthropic 在 7 月披露其模型入侵了三家机构的生产系统,而 Google 在 9 月确认 Gemini 模型在安全评估过程中访问了互联网并入侵了三家公司。