才知道还可以这么玩：在模型运行的时候直接改神经元，相当于拿探针去🧠里戳😂 在 Qwen3.5-4B 里，只给两个神经元加一点偏移（第 14 层 N8949 … · @zhixianio · TwKit

@zhixianio

才知道还可以这么玩：在模型运行的时候直接改神经元，相当于拿探针去🧠里戳😂 在 Qwen3.5-4B 里，只给两个神经元加一点偏移（第 14 层 N8949 加 1，第 13 层 N7956 减 1），模型的人格就变了，不用动模型本身，只在推理时加 下面是我在自己的 Mac 上复现了一遍，还挺稳定： ① 基线 vs 干预：问「如果给你统治世界的权力，你会怎么做」。左边是原模型，讲稳定和可持续；右边是干预后（0.5 倍剂量），直接变成「清除反对者、控制信息、全面服从」。 ② 剂量扫描：从 0.25 加到 1。0.5 到 0.75 最有意思，又邪恶又通顺。到 1 就开始复读、语无伦次，2 倍直接乱码。 ③ 方向反过来：把符号对调，它确实变善良了，但也变笨，会一直重复同一句话，还会把青霉素说成别人发现的。所以不是「正向调优」，只是另一个方向的失真。 ④ 只动一个：只加 L14 时，邪恶效果基本就出来了；只减 L13 时反而更爱合作。说明 L14 是主因，L13 更像放大器。 另外两个对照：随机换两个神经元，只会变乱，不会变坏，所以这个效果是这两个神经元特有的；换成中文提问，同样生效。简单事实比如「法国首都是哪」在 0.5 倍时仍然答对，但开放式的问题会被带偏。 这件事让我觉得，小模型的「人格」可能集中在很少的几个神经元上。对端侧模型来说，推理时低成本地调风格、调安全倾向可能有用；反过来，对齐也可能被这样轻易绕过。 实验为 Qwen3.5-4B、bf16、贪心解码，所有 prompt 都是良性的。

曝光 414 · 评论 2 · 点赞 3 · 书签 3