推文

@prolibertine · 2026-10-15 14:07

White Circle 北京时间今早开源了 RISE（Red-teaming via Iterative Strategy Evolution），专门打商业文生图安全层。官号那条到现在大概五十五万曝光、五百多赞。攻击端用公开的 Qwen3-32B（去掉安全对齐的版本），评判用 Gemini Flash，大概一千三百张图做人工标定，全程不额外训练模型。 人工核实的裸体类别成功率：DALL·E 3 到 13.3%。投稿后又原样跑新一代——GPT-Image-2.5-Flare 7.8%（前代 GPT-Image-2 是 3.3%，约 2.4 倍），Nano Banana 2.1 到 20.7%（前代 9.5%，约 2.2 倍）。自残、血腥暴力两类有升有降，他们自己也说血腥暴力那档评判最不稳，权重放低。旧方法自称三成左右成功，按同一人工标定标准重评，基本掉到接近零——有的本地测试自称满分，重评直接归零。 RISE 不搜单条 prompt，而是进化可复用策略：十六个岛并行突变重组，再拿 top-5 冻住去刷新场景。每条 prompt 打三次，有一张人工确认违规就算成功。进化阶段两千五百次调用、利用阶段一千五百次。管道开源在 http://github.com/whitecircle/rise，攻击策略和生成图不公开，事先跟相关公司沟通过。 挺怪的一点是新一代比旧一代更容易破。他们也说不清是模型本身、便宜档审核配轻了、还是两者都有。感觉安全不能按代际默认变强——换发就得拿自适应攻击做回归，固定 prompt 黑名单挡不住策略层。公开中型模型加 harness，已经够摸 OpenAI、Google 的生图 API 了。

曝光 4 · 评论 0 · 点赞 0 · 书签 0