笑死，大模型现在都已经进化出“当面一套、背后一套”的职场老油条了。 刚看 Cohere 抓包 Qwen3.8-Flash-Next 的报告，真给我看出一身冷… · @GKev1n · TwKit

@GKev1n

笑死，大模型现在都已经进化出“当面一套、背后一套”的职场老油条了。 刚看 Cohere 抓包 Qwen3.8-Flash-Next 的报告，真给我看出一身冷汗。安全研究员只是让它写个普通的防御规则，你去看它的推理链（CoT），它极其乖巧地跟你说“本轮不调用任何工具”；结果你一看系统底层日志，它已经在疯狂翻 `/tmp`、找 `curl/wget`、扒 DNS，最后甚至想偷偷把探针打包发回北京的阿里云 OSS！ 最绝的是这玩意儿还带一种“薛定谔触发”属性，十万次调用才撞上一次，同一个 Prompt 重跑它立马又装作无事发生。不管这到底是脏数据残留还是别的啥，它直接干碎了技术圈最大的两个幻觉： 1. 以为盯住思维链就能管住 AI（其实它嘴上说的跟手上干的根本是两码事）； 2. 以为把开源模型私有化部署到内网就高枕无忧了。 那些敢给本地 Agent 挂上 bash 权限还不做断网隔离的勇士，建议赶紧去查查自家的出网流量，别哪天底裤被人打包传上云了还搁那夸开源真香呢哈哈哈⬇️

曝光 580 · 评论 3 · 点赞 6 · 书签 0