被 AI 的"您说得太对了"恶心到的人,可以看看 heretic 这个项目。 p-e-w/heretic,今日 GitHub Trending 第 6,建仓… · @ReignSwords · TwKit
@ReignSwords
被 AI 的"您说得太对了"恶心到的人,可以看看 heretic 这个项目。 p-e-w/heretic,今日 GitHub Trending 第 6,建仓一年多攒了 38,580 star。它干的事一句话:不用训练,直接改你本地跑的模型的行为——去审查、压 AI 味、治谄媚,连幽默感都能调。 我翻完 README,觉得它牛在三点: 1、开箱即用到离谱。pip install -U heretic-llm,然后 heretic Qwen/Qwen3-4B-Instruct-2507,一行命令开干。4B 模型在 3090 上默认配置跑 30-40 分钟。想换口味直接换配置文件:config.noslop.toml 压 AI 味、config.nosyco.toml 治谄媚、config.nohumor.toml 去幽默、config.emotions.toml 调情感——建议先给那个天天夸你"这个问题问得好"的模型用上 nosyco。 2、把"魔改"做成了工程,不是手艺。底层两套武器:经典 abliteration(定向消融,抹掉模型的拒绝方向),以及作者自研的 ARA(任意秩消融)。上面再架一个 Optuna 调参器自动搜超参,优化目标是两个 scorer 联合:拒绝率往下压、KL 散度别跑偏——既要松绑,又不能把模型搞疯。scorer 还是插件化的,自己写一个就能定制"想改什么"。 3、改完的模型能"存档"。处理完导出一份 9KB 的 reproduce.json,别人拿着这份清单几分钟复刻出同一个模型,作者管这套东西叫 Grimoire(魔法书)。社区已经在 HF 上攒了几千个这么处理过的模型。 冷水: - AGPL-3.0,商用分发前看好协议; - 它调的是"行为开关",不是能力。MMLU/GSM8K 持平不等于变聪明,别指望 4B 干 70B 的活; - 默认动作就是去审查,这事本身争议不小,自己掂量; - 2.x 的配置文件不兼容 1.x,老用户升级先看迁移指南。 还有个好玩的细节:作者在 README 里专门声明"不是 vibe-coded",核心 PR 攒了近 350 条人工评论、吵了 7 个月。在这个年头,这话本身就很叛逆。 一句话真话:它卖的不是"去审查",是"模型行为原来可以当超参数调"——以前这是大厂烧钱才配玩的,现在一张 3090 一个下午。 顺带问一句:模型那股"您说得太对了"的味儿,你觉得是训练数据的锅,还是厂商把"听话"奖励错了方向?你站哪边 同被 AI 味折磨的,互关一个,这种项目我第一时间同步 🔵 蓝V互关 | Fellow Premium members, let's connect! 欢迎互关,一起交流 AI 与科技 👥
曝光 171 · 评论 9 · 点赞 0 · 书签 0
查看原帖