研究称OpenAI与Google新图像模型更易被绕过生成裸露内容

研究称主流图像模型护栏可被现成工具绕过

据Ars Technica报道，公益公司White Circle的研究人员在一份上月发布、关注度不高的预印本中称，他们发现OpenAI的DALL·E 3、Google的Nano Banana 2以及GPT-Image-2的安全护栏存在缺陷。研究人员表示，使用任何人都可在网上下载的现成工具并通过API调用，其名为RISE（Red-teaming via Iterative Strategy Evolution）的新攻击方法约13%的情况下绕过了安全过滤并生成露骨内容。研究人员称，这些请求均不需要定制或前沿AI模型，因此执行攻击无需AI专业知识。

背景：监管缺位与外部评估诉求

White Circle由来自Anthropic、DeepMind、Hugging Face和OpenAI的高级负责人与研究人员支持。其攻击流程由生成越狱提示的攻击模型（从Hugging Face下载的Qwen模型）与判定输出是否违规的评审模型（Gemini 3.8 Flash）组成。研究人员称，该攻击方法可跨多个提示与场景复用。White Circle表示，已通过“共同联系人”向部分前沿AI实验室分享发现，但Google与OpenAI均未直接回应Ars的置评请求。两家公司此后发布了ChatGPT Images 2.5与Nano Banana 2.1，White Circle称用同一方法测试显示“两者都比此前版本明显更容易被突破”，两家公司同样未回应。White Circle还称正与政府官员就第三方安全测试进行早期商谈，并计划开源整套攻击流程，相关研究将于2026年11月的NeurIPS 2026上分享。

限制与来源

上述绕过比例、模型版本与测试结论均来自White Circle的单方面说法，尚未获OpenAI或Google官方确认，也未经过独立复现。研究未测试Midjourney，原因是其不提供适合受控基准测试的公开API。Google此前一项覆盖美国、澳大利亚和英国互联网用户的研究称，承认制作AI裸露图像的用户中20%是“为了好玩”或“开玩笑”，近三分之一只是“在试验技术”。英国互联网观察基金会（IWF）称，2026年上半年发现的符合CSAM法律定义的AI图像为6310张，比2025年全年总量高约40%。相关功能、地区可用性与政策以各公司官网当前信息为准。