网络安全

“压缩走私”漏洞:如何窃取人工智能模型的“思维逻辑”以构建廉价竞争对手?

一名安全研究人员揭露了“压缩走私”(Compaction Smuggling)漏洞,该漏洞允许从先进的人工智能模型中提取思维路径,从而简化了“蒸馏”过程,以便以极低的成本构建竞争模型。

2026-10-26
1 分钟阅读
123 浏览量
certi.news
“压缩走私”漏洞:如何窃取人工智能模型的“思维逻辑”以构建廉价竞争对手?

OpenAI、Claude 和 Gemini 等领先的人工智能公司正面临一项超越单纯数据保护的新安全挑战。一份最新报告揭露,先进模型可能被利用来通过窃取其“思维逻辑”,以极低的成本协助构建竞争模型。

攻击机制:什么是“压缩走私”(Compaction Smuggling)?

前沿人工智能(Frontier AI)模型依赖于应用程序接口(APIs),允许开发者与人工智能引擎进行交互。为了在不消耗巨大资源的情况下保持上下文的连续性,这些模型使用一种称为“上下文压缩”(Context Compaction)的过程,即在超出可用上下文窗口之前,将对话历史、工具调用和工作区状态汇总为精简摘要。

研究人员“Xint”发现了一个名为 Compaction Smuggling 的安全漏洞,该漏洞允许攻击者通过三个主要步骤操纵此过程:

  • 第一:通过向先进模型(如 gpt-5.6-sol)提交任务来获取思维路径(Reasoning Traces)。
  • 第二:引导或塑造生成的压缩(Compaction)过程,使其包含敏感信息。
  • 第三:将结果发送给另一个能力较弱的人工智能模型(如 gpt-4.1 或 gpt-4o),并要求提取原始输入,而较弱的模型可以轻松做到这一点。

这种攻击绕过了 OpenAI 此前旨在防止在不同模型中重现思维路径的尝试,因为压缩过程是在最初产生思维的同一个模型内部完成的,所以这种方法能够成功。

为什么这构成战略威胁?

真正的危险在于一种被称为 “蒸馏”(Distillation) 的过程。在此过程中,从昂贵的先进模型中提取的思维和逻辑秘密被用于训练新的、成本更低的模型,这使得竞争对手无需在基础训练过程中进行巨额投资,即可获得高水平的人工智能能力。

这不仅是一个技术威胁,更是一个经济和地缘政治威胁;对领先模型如何“思考”的深入了解,使公司能够以最少的资源快速模拟其能力。

全球技术竞争背景

该漏洞的出现正值美国网络安全和基础设施安全局(CISA)警告存在有组织的数据提取活动之际。该机构指出,自 2024 年底以来,DeepSeek、阿里巴巴、Moonshot AI 和 MiniMax 等中国公司已经从 Claude、GPT 和 Gemini 等美国领先模型中提取了数十亿个标记(Tokens)。

报告证实,特别是 DeepSeek 公司,自 2024 年以来开展了有组织的活动,针对其 R1 和 V3 模型的思维能力和专业优化进行训练,这引发了人们对这些中国创新在多大程度上依赖于从西方“蒸馏”技术的质疑。

OpenAI 方面确认已修复“Compaction Smuggling”漏洞,并于 2026 年 10 月 23 日向研究人员 Xint 颁发了 6,000 美元的奖金,以表彰其发现。

新闻来源
SecurityWeek
查看原始来源 ↗
c
作者

certi.news

同一分类

你可能还喜欢

查看所有新闻