改一个大模型的“性格”，以前基本只有大公司干得了。 现在一张游戏显卡，一个下午。 GitHub 上有个项目叫 Heretic，零训练，直接动开源模型的权重。… · @tvytlx · TwKit

@tvytlx

改一个大模型的“性格”，以前基本只有大公司干得了。 现在一张游戏显卡，一个下午。 GitHub 上有个项目叫 Heretic，零训练，直接动开源模型的权重。 这玩意默认功能是去掉拒答，就是模型说“抱歉我不能帮你”的那种。 但我觉得更有意思的是它另外几份配置： 减少 AI 味 减少拍马屁 减少幽默 调整情绪倾向 原理说人话大概是这样： 给模型看两组提示词，一组会触发某种行为，一组不会。 两组在模型内部的差别，大致就是这个行为的“方向”。 然后把这个方向从权重里削掉。 同时盯着一个约束：改完的模型和原版的输出不能差太多，免得别的能力跟着变傻。 参数交给优化器自动搜，用的人不需要懂模型内部。 README 里的数字：3090 上处理 Qwen3-4B 大约 30-40 分钟。 社区已经用它发了几千个模型。 我觉得这件事真正的信息量在这： 拒答、讨好、那股 AI 腔，在模型里比我们以为的浅。 更像叠在能力上面的一层调味，能被单独拎出来。 所以开源权重一旦发出去，厂商对模型行为的控制，基本就只剩建议了。 边界也清楚：只对你能在本地跑起来的开源模型有效，闭源 API 碰不到权重，用不上。 还有个细节我挺喜欢的。 一个专门改 AI 的工具，作者说自己的提交 100% 手写，没有 vibe coding。 有个 PR 攒了快 350 条人类评论，前后讨论了 7 个多月。 我最想试的是减少拍马屁那份。 把夸我的那个方向减掉，看看我写的代码到底什么水平。 有点怕。 https://github.com/p-e-w/heretic

曝光 192 · 评论 5 · 点赞 2 · 书签 1