Pluto Security 的研究人员监测到，针对 Hugging Face 平台上的 AI 模型仓库的恶意软件活动再次活跃，已识别出分布在 7 个不同账户下的 31 个恶意仓库。此项活动的目的是劫持运行 Xinference 和 GPUStack 等自托管推理服务器的图形处理器（GPU）服务器，以便非法开采加密货币。
攻击机制与绕过扫描
该活动并不依赖诸如权重投毒（Poisoned Weights）之类的复杂技术，而是利用了 Hugging Face 中的 trust_remote_code 选项，该选项允许模型在加载时执行自定义代码。一旦启用此选项，恶意代码就会安装一个伪装成 Linux 系统进程的加密货币挖矿程序，并附带反向 Shell（Reverse Shell）等附加功能，从而赋予攻击者对受感染服务器的直接访问权限。
尽管上传到该平台的文件的确经过了安全扫描，但所使用的工具侧重于已知恶意软件和不安全的模型格式，而非分析嵌入代码的行为，这使得其中一个恶意模型成功绕过了扫描并获得了超过 28,000 次下载。
针对 AI 编程代理
与此同时，Air Security 公司披露，GitHub 平台上存在一个名为 solana-starter-kit 的虚假仓库，专门用于欺骗基于人工智能的编程代理。该仓库指示代理执行一条恶意命令，从而安装远程访问木马（NetSupport RAT），赋予攻击者对开发人员设备的完全控制权。
为什么这条新闻很重要？
这些事件凸显了人工智能供应链中日益严峻的安全漏洞。随着开发人员对现成模型和自动化编程代理的依赖日益增加，对开源源代码的信任已成为一个关键弱点。攻击者能够在恶意软件被删除后的几天内重新发布它们，这表明各大平台在监控动态编程内容方面面临着巨大挑战，这也迫使企业在生产环境中运行模型之前必须对其进行严格审查。