TensorFold 10月29日发布新版:官方在 GB10 上测得,Qwen3.8-27B 读入提示词快了约9%到11%,生成速度基本没变。 等长文出第一… · @DeaglePc · TwKit
@DeaglePc
TensorFold 10月29日发布新版:官方在 GB10 上测得,Qwen3.8-27B 读入提示词快了约9%到11%,生成速度基本没变。 等长文出第一个字的,可以看看。但这是特定硬件和4位权重的结果,别当成所有模型都提速。 https://github.com/ashhart/TensorFold
曝光 28 · 评论 2 · 点赞 2 · 书签 1
查看原帖