Meta宣布为其智能个人助手Muse支付约120万美元的漏洞奖励，其中包括在产品正式发布前因发现一个严重漏洞而获得的30万美元大奖，这是该公司加强其系统和人工智能技术安全努力的一部分。
Muse助手作为用户的个人人工智能代理，代表用户在其电子邮件、日历和即时通讯平台等各种账户中运行，并为每个用户分配一个独立的虚拟机（VM）。漏洞奖励计划最初于去年4月启动，随后在9月8日助手正式发布时转为通用计划；在此期间，公司收到了超过630份安全报告，其中64份报告经过验证并被接受。
显著漏洞与奖励详情
这30万美元的大奖授予了一名安全研究员，他在助手发布前四个月的早期内部测试阶段发现了一个漏洞；该漏洞允许访问Meta员工使用的实验性虚拟机上的对话和令牌（Tokens）。
Meta的David Singleton解释说，该问题出现的原因是身份验证检查将由本地HTTPS代理添加的请求头（Header）视为请求来自可信来源的决定性证据。在系统迁移过程中，环境增加了一个第二代理层，导致外部请求也能携带相同的信任请求头，这促使公司暂时停止服务、修复缺陷，并停止将本地设备视为绝对可信的来源。
公司还针对一份安全报告支付了9万美元，该报告涉及一个恶意网页，该网页在助手被要求总结其内容时，模仿了助手浏览工具的状态消息，导致智能代理执行了本应被拦截的操作；Meta通过添加检测信号并改进对可疑工具输出的处理方式解决了这一问题。另一份价值9万美元的报告是关于利用特定格式绕过助手的电子邮件过滤机制，作为协同攻击的一部分。
应用错误与次要漏洞
名单中还包括一项针对Android应用漏洞的5万美元奖励，该漏洞允许恶意应用在不验证基础主机的情况下，将链接传递给具有特殊权限的Web View，从而使攻击者的页面能够捕获Web View的凭据。此外，针对macOS应用中的一个漏洞，仅提供了1000美元的奖励，该漏洞允许拥有计算机访问权限的攻击者利用自动更新功能以应用权限执行代码。
这对人工智能安全意味着什么？
这些结果展示了大型科技公司在开发直接与用户敏感数据和个人账户交互的自主人工智能代理时，所面临的复杂安全挑战的规模。Meta的政策显示，某些提示词注入（Prompt Injection）攻击的奖励可达13万美元，而针对整个集群的全面入侵奖励可达25万美元，这强调了各公司在风险扩大之前，吸引安全研究人员社区来加固其人工智能基础设施的严肃态度。