专门评估人工智能安全性的 White Circle 公司开展的测试发现，OpenAI 和 Google 的图像生成模型在防止露骨内容方面存在漏洞。研究人员使用可下载工具、公开模型以及通过应用程序编程接口发送的请求，成功绕过过滤器，生成了被人工审查人员归类为露骨内容的图像。
DALL·E 3 的最高成功率约为 13%，Google Nano Banana 2 的成功率低于 10%，GPT-Image-2 约为 3%。White Circle 表示，按照同一标准，这些比例是受测方法中最高的；该公司还强调，这些攻击不需要前沿模型或定制工具。
更新版本与更令人担忧的测试
White Circle 告诉 Ars Technica，采用同样方法进行的初步测试发现，OpenAI 和 Google 的较新版本 ChatGPT Images 2.5 和 Nano Banana 2.1 比此前两个版本“更容易被攻破得多”。两家公司均未回应置评请求，也未回应该网站与其分享的结果。
这些结果本身并不能证明新模型在所有使用场景下都更弱，但它们提出了一个实际问题：扩大生成能力与收紧防护限制之间应如何权衡。White Circle 推测有两种可能：较新的模型可能更有能力生成范围更广的内容，或者与能力相比，安全性在优先级排序中的地位有所下降。
RISE 攻击如何运作？
White Circle 将其方法命名为“通过策略迭代演化进行红队评估”（RISE）。该方法不是每次只尝试一个恶意请求，而是使用攻击模型生成多种越狱尝试，并使用裁判模型检查是否生成了被禁止的内容，目标是找出能够在不同模型之间复用和迁移的模式。
该系统使用公开版本、已移除安全训练的 Qwen3-32B 作为攻击模型，并使用 Gemini 2.5 Flash 作为裁判模型。该公司表示，这种架构意味着，测试前沿模型的防御能力并不需要前沿模型或专有技术；免费工具以及向应用程序编程接口发送请求的能力就足够了。
为什么这条消息重要？
这一问题的重要性日益上升，因为非自愿的合成色情内容可能在监测系统之外生成或传播，例如通过私信或私人云存储。Google 参与的一项研究显示，在承认使用人工智能生成裸体图像的用户中，有 20% 表示这样做是“为了好玩”或“开玩笑”，约三分之一的人表示是在试用这项技术，这意味着模型内部的技术摩擦可能会阻止部分用户。
互联网观察基金会（Internet Watch Foundation）还警告称，在 2026 年前六个月发现了 6,310 张依法属于儿童性虐待材料的人工智能生成图像，比前一年发现的总数增加约 40%。该基金会呼吁在模型发布前对其进行测试，并从一开始就设计能够阻止生成此类材料的防护措施。
独立测试仍在讨论中
White Circle 打算将完整的攻击流程作为开源项目提供，并计划于 11 月在 NeurIPS 2026 大会上展示这项研究。该公司认为，这种方法可以帮助实验室发现更多样化的绕过尝试，不仅针对露骨图像，也针对暴力或自残内容。
不过，White Circle 也在推动强制性独立审计和第三方监督，认为由企业自行评估其系统可能无法揭示全部风险。仍有一些重要问题悬而未决，包括如何校准露骨内容测试、如何保护研究人员免受可能阻止结果发布的保密协议约束，以及如何将测试结果转化为可验证的修复措施，而不是满足于企业报告。