一组安全研究人员成功证实了 Hugging Face 平台上的一个严重安全漏洞,该漏洞允许攻击者完全控制人工智能模型开发者的账户。这一漏洞通过劫机 Kokoro 模型账户得到了说明,该模型是一个广受欢迎的文本转语音(Text-to-Speech)流行模型,被 Google、NVIDIA、AMD、Intel 和 Amazon Web Services 等大公司的主要技术项目广泛使用。
劫机是如何进行的?
在阿隆·赫ertz(Alon Hertz)的领导下,研究人员利用了该平台上缺乏严格账户所有权验证机制的漏洞。研究团队注册了 Kokoro 项目捐赠文件中列出的互联网域(Domain),然后使用该域重置了开发者在 Hugging Face 上的账户密码,从而获得了对该账户的完全访问权限。
这对用户意味着什么?
研究人员解释说,真正的危险不仅在于账户被盗,还在于能够执行供应链攻击(Supply-Chain Attacks)。研究人员没有列出可以被杀毒软件检测到的传统恶意软件,而是修改了神经模型本身的“权重”(Weights)。这种修改使模型产生与输入文本不同的语音输出,而模型的运行代码和基础架构保持完全不变,这使得攻击对于传统扫描系统而言是不可见的。
为什么这条新闻很重要?
这次入侵凸显了开源模型生态系统中更广泛的信任问题。Hugging Face 平台目前不验证模型发布者的身份,也不验证账户是否仍在其原始所有者的控制之下。由于许多生产系统依赖于模型的自动更新,通过被劫机账户推送的任何恶意更新都将直接到达依赖该模型的数千个系统,而不会引起当前安全工具的任何怀疑。
研究人员强调,Kokoro 模型只是一个突出的例子,平台上的任何账户都可能面临同样的场景,攻击者可以在推送恶意模型更新之前等待很长时间,这使得在实际工作环境中检测这些攻击变得极其困难。