TwKit
正在载入
TwKit

四台 DGX Spark 跑 DeepSeek,同时请求从 1 路加到 16 路: 合计吞吐 71 → 105 → 131 → 163 → 176 tok/… · @HMLGGGG · TwKit

@HMLGGGG

四台 DGX Spark 跑 DeepSeek,同时请求从 1 路加到 16 路: 合计吞吐 71 → 105 → 131 → 163 → 176 tok/s 每路速度 71 → 56 → 38 → 23 → 12 8 路之后合计只多 8%,每路速度却减半。日常多人、多 Agent 用,4–8 路是吞吐和体验的平衡点;我最后定在 4 路。 别看到 16 路就以为赚了。

曝光 3 · 评论 0 · 点赞 0 · 书签 0

查看原帖