降到 1800MHz,decode 掉的是个位数。 这组扫频是 8 月底做的,和 2200MHz 比,单路 decode 还剩约 93%,4 路合计还剩 9… · @wei_wang · TwKit
@wei_wang
降到 1800MHz,decode 掉的是个位数。 这组扫频是 8 月底做的,和 2200MHz 比,单路 decode 还剩约 93%,4 路合计还剩 97.5%,冷启动 32K prefill 还剩 93%。 换来的是平均功耗降了约 30%,峰值温度低了 5 到 7°C。 并发越高,频率的影响越小。decode 主要卡在内存带宽上,GPU 频率不是瓶颈。 两台 Spark 现在还是锁在 1800MHz 跑 GLM-5.3-Flash,单路 62.2 tok/s,4 路合计 104.6。 锁了两个月,十分稳定,没出过稳定性问题,不打算往回调。
曝光 96 · 评论 0 · 点赞 1 · 书签 0
查看原帖