根据 Huntress 安全运营中心在过去九个月中的监测，一些人工智能平台中的可信功能已经变成新的攻击面。攻击者没有直接攻击人工智能模型或开发这些模型的公司，而是利用可分享内容、公开发布的小型应用以及付费搜索结果来接触这些平台的用户。
Huntress 监测到的传播路径包括 Claude Artifacts、Claude 对话分享链接，以及可被索引的 ChatGPT 和 Grok 对话。这些活动利用了内容位于知名域名内以及用户熟悉的设计这一点，使下载指示或代码命令看起来像是合法内容。即使服务提供商在数小时或数天内删除内容，这段短暂的时间也可能足以接触受害者。
FakeAgent 活动利用 Claude Artifacts
7 月，Huntress 发现了一场名为 FakeAgent 的活动，影响了 29 家以上机构。该活动首先创建了一个托管在 claude.ai 域名上的恶意 Claude Artifact，而 claude.ai 是 Claude 平台所属的真实域名。据相关材料称，攻击者制作了一个虚假的 Claude Desktop 应用下载页面，利用了公共 Artifacts 主要用于轻量级演示、不会接受广泛检查这一点，但页面会显示一般性警告。
在 Bing 中搜索 Claude Desktop 应用的用户会进入虚假页面，随后下载链接会指向一个分发 SectopRAT 恶意软件的外部域名。在 Huntress 报告该 Artifact 后，Anthropic 于 7 月 22 日前将其删除，但与同一重定向域名相关的活动在 8 月期间仍在继续。
分享链接中的虚假安装指南
在另一起事件中，用户在 Google 中搜索“Mac 上的 Claude”时看到的一则付费广告，将其引导至一个 claude.ai/share 链接。该链接伪装成由 Apple 支持部门发布的安装指南。由于页面位于 Anthropic 的域名内，一些通常的警告信号消失了，例如网站地址不同或出现证书相关警告。
该指南要求受害者将一条 curl 命令粘贴到 Terminal 中，从而启动一个包含六个阶段的流程，最终安装用于窃取数据的 MacSync 恶意软件。目标数据包括 Cookie、凭据、Keychain 密钥、Telegram 会话、SSH 密钥和云密钥。
实际发生了哪些变化？
这些案例表明，内容出现在知名平台内，已经不足以证明其安全性。链接在域名层面可能是正确的，但其中的指示、下载目标或要求执行的命令可能是恶意的。Huntress 还发现了另一种模式：污染搜索结果以及 ChatGPT 和 Grok 中已被索引的对话，使其针对故障排查请求显示 ClickFix 风格的指示，而不是正常的解决方案，其中包括寻找在 macOS 上释放空间的方法。
对用户和支持团队而言，最重要的结论是，必须检查指示本身、文件和命令的来源，而不能只依赖对平台名称或其域名的信任。至于最后一种模式，现有材料中的细节仍然有限，因此仅凭该来源无法确定其完整范围或受害者数量。