两台 DGX Spark 现在能跑 DeepSeek-V4.1-Flash-1017 了，单路写代码 118 tok/s。 这是 Mia 的 2x Spar… · @wei_wang · TwKit

@wei_wang

两台 DGX Spark 现在能跑 DeepSeek-V4.1-Flash-1017 了，单路写代码 118 tok/s。 这是 Mia 的 2x Spark 配方。EXL3 2.9 bpw，权重 196 GiB，每台分 98 GiB 左右，TP=2。Engram 那 203 GB 的表放在两台各自的本地盘上。 我比较关心锁频。配方要求两台 GPU 设同一个频率上限，两边每层要同步两次，慢的那台决定速度。 仓库里有一组早先的数据，其中一台锁在 1,800 MHz，速度按慢的那台走： 1. 单路散文 74.6 tok/s，两台都 2,200 MHz 时是 80.7 2. 单路代码 108.1，2,200 MHz 时是 118.1 3. 4 路合计散文 140.6、代码 152.7，2,200 MHz 时是 154.0 和 166.1 1,800 MHz 慢了 8% 左右，和我自己测 GLM-5.3-Flash 的结果差不多。我两台一直锁 1,800，拿这点速度换功耗和温度，我觉得值。 prefill 稳定在 2,000 tok/s 出头，256K 的提示要等两分钟才出第一个字，长上下文还是慢。

曝光 271 · 评论 2 · 点赞 3 · 书签 1