前几天全网都在无脑吹 Unsloth 刚发的 2-bit DeepSeek-V4.1，到处都在转那张“跑分 84.2%、删掉 196B Engram 毫无影… · @Delroy715 · TwKit

@Delroy715

前几天全网都在无脑吹 Unsloth 刚发的 2-bit DeepSeek-V4.1，到处都在转那张“跑分 84.2%、删掉 196B Engram 毫无影响”的官方截图。 但凡有一个人真把这 275GB 权重拉下来跑段代码，都不会跟着照本宣科😂 Unsloth 说“删掉 196B 的 Engram 记忆表对跑分毫无影响”——因为数学题只看括号里的 123，选择题只看 A/B/C/D！ 这就是为什么光看跑分榜永远摸不到模型的真脾气。 怎么在单卡 96GB G4 上把这头 748B 巨兽塞进内存跑出 52 tok/s？为什么写代码千万不能把 Engram 置零、在单卡上怎么挂真 Engram 才不掉速？全套实测过程和一键开跑脚本都在下面这篇长文里了👇

曝光 36 · 评论 0 · 点赞 0 · 书签 0