TensorFold 1.2.0 出了,GB10 这边也有看点。 两台 GB10 跑 TP=2,GLM-5.3-Flash XSFP4 的加载从 327 秒… · @wei_wang · TwKit
@wei_wang
TensorFold 1.2.0 出了,GB10 这边也有看点。 两台 GB10 跑 TP=2,GLM-5.3-Flash XSFP4 的加载从 327 秒缩到 51 秒。Qwen3.6-35B-A3B 开 MTP,8 路合计从 159 涨到 220 tok/s。 官方测的十个模型,在 GB10 上没有一个变慢。在用的可以更新。
曝光 112 · 评论 1 · 点赞 0 · 书签 1
查看原帖