两个神经元，一个“邪恶”的 Qwen · @Michaelzsguo · TwKit

@Michaelzsguo

大模型发布前都经过安全训练：不帮人干坏事，说话客气，答错了会道歉。有人想拆掉这层“规矩”，也有人想弄明白它到底装在模型的哪里。 社区里拆“规矩”最有名的办法叫 abliteration（ablation 和 obliteration

曝光 1261 · 评论 0 · 点赞 3 · 书签 7