推文

@fireandstart · 2026-10-12 23:52

Step 5 的看点不只是“600B 参数”，而是每个 token 只激活 27B：这可能让超大总参数模型在推理成本上更接近本地部署的现实。不过，激活参数少不自动等于显存需求低，权重总量、量化方案、KV cache、上下文长度和运行时优化都会决定实际门槛。等 10 月 15 日权重发布后，我更想看几组可复现数据：不同量化下的磁盘与内存占用、首 token 延迟、持续解码速度，以及百万上下文是否有真实任务支撑。许可证和推理框架支持同样关键；“开放权重”只有和可用工具链、清晰许可一起落地，才会变成开发者真正能部署、能评估、能改进的模型。

曝光 31 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 3.1411505390663246