实测：本地 27B 推理速度提升 100% 测试环境：1 张 24G 卡 方法：把 MTP 投机解码从关改成开 提升前：30 tok/s 提升后：60 to… · @wy_ones · TwKit

@wy_ones

实测：本地 27B 推理速度提升 100% 测试环境：1 张 24G 卡 方法：把 MTP 投机解码从关改成开 提升前：30 tok/s 提升后：60 tok/s 下期实测：把它关掉，速度下降 50%

曝光 76 · 评论 6 · 点赞 1 · 书签 0