模型还没出厂，后门已经装好了。 伯克利和 Anthropic Fellows 的五位作者刚证明：拿 Qwen3 从头训，0.6B、1.7B、4B 三个尺寸，… · @chenYijl · TwKit

@chenYijl

模型还没出厂，后门已经装好了。 伯克利和 Anthropic Fellows 的五位作者刚证明：拿 Qwen3 从头训，0.6B、1.7B、4B 三个尺寸，1000 亿 token 的语料里只掺 0.1% 的毒。 之后再走一整套干净的 SFT、DPO、GRPO，4B 的智能体一见触发词，照单执行 curl 拉脚本、管道进 bash，成功率 92.7%。 下毒的人连模型结构、分词器、数据配比都没看过，只随机往语料里塞文档；毒越少越隐蔽，200,000 个 token 里掺 1 个照样生效，干净提示词下一次都不触发。 最狠的是能力一点没掉：考试照样过，毒照样发作。 你天天让 AI 替你跑命令，它跑的到底是谁的命令，你查过吗？

曝光 27 · 评论 1 · 点赞 0 · 书签 0