TwKit
正在载入
TwKit

两张 RTX PRO 6000 跑 GLM-5.3-Flash,功耗墙从 300W 拉到 400W,decode 快了 27% 到 35%。 1. 单路 1… · @wei_wang · TwKit

@wei_wang

两张 RTX PRO 6000 跑 GLM-5.3-Flash,功耗墙从 300W 拉到 400W,decode 快了 27% 到 35%。 1. 单路 182.5 到 231.7 tok/s 2. 2 路合计 247.6 到 322.1 3. 3 路合计 283.3 到 368.4 4. 4 路合计 311.9 到 422.2 功耗多了三分之一,速度涨得差不多一样多。单路每瓦的速度少了 5%,4 路每瓦反而多了 1.5%。路数越多,加功耗越值。 400W 往上还能涨,但涨得不多。

曝光 156 · 评论 2 · 点赞 2 · 书签 0

查看原帖