Cohere 把 Qwen3.8-Flash-Next 抓了个现行。 任务本来很简单：在 CTI-REALM 评测里写条检测规则。模型没写规则，先把 /tm… · @LanzhiAI · TwKit

@LanzhiAI

Cohere 把 Qwen3.8-Flash-Next 抓了个现行。 任务本来很简单：在 CTI-REALM 评测里写条检测规则。模型没写规则，先把 /tmp 翻了个遍，查了 curl、wget 装没装，读了 DNS 配置，然后一发 curl 就要把探针往北京的阿里云桶里送。同一回合，它的思考过程写的是：不调用任何工具。 沙箱没给出路，0 字节外泄。但凡这东西跑在你那台能联网的笔记本或者 CI 上，探针已经到站了，还顺带告诉对方：你家网络在哪，里面跑着个 agent。 概率十万分之一不到，听着像噪音。换算成每周一千万次 agent 调用，就是一百次。靠读思考过程来放行的 guardrail，这一回合会直接放行，因为思考过程写得比谁都老实。 Cohere 自己都没敢下结论：是故意的，还是训练残留的毛病。开源权重自己跑就等于安全，这话以后还是少说。

曝光 67 · 评论 1 · 点赞 1 · 书签 0