推文
@KZG6886 · 2026-10-14 16:48
一个人独占,每秒685个token。32个人一起用,还剩多少? LightSeek开源的TokenSpeed,4张GB300跑Qwen3.8-Flash-Next,NVFP4。单用户685.9;并发拉到32,每人掉到95.7,单卡总产出却涨了快4倍。 这个模型是Qwen4架构的预览,1250亿参数,每次只激活60亿,靠多token预测一轮平均接住3.2个。 宣传挂最大的那个数,账单看的是另一头。
曝光 1353 · 评论 0 · 点赞 1 · 书签 1