四台 DGX Spark 跑 DeepSeek V4.1 Flash，我对比了两种用法：四台合成一套，或者拆成两套双机提供服务。 同样是限制并发 8 路：一… · @HMLGGGG · TwKit

@HMLGGGG

四台 DGX Spark 跑 DeepSeek V4.1 Flash，我对比了两种用法：四台合成一套，或者拆成两套双机提供服务。 同样是限制并发 8 路：一套 163 tok/s，两套 234，多 43%。 16 路：176 对 277，多 57%。 代价是单路慢约 4%，每套内存只剩一半，双机还得用量化权重。DeepSeek 每层都要跨机同步，四台一起算一个请求，多出来的带宽被同步吃掉了。 所以现在默认还是四台一套（单路更快，JSON Schema、视频都能用），人多的时候再切成两套。

曝光 0 · 评论 0 · 点赞 0 · 书签 0