推文

@LufzzLiz · 2026-10-15 23:42

恭喜Step 5 Preview 开源，MOE模型，总计 600B，每个 token 激活 27B。上下文1M tokens，支持文本、图片、视频输入。部署配置见截图 它把“压缩上下文后继续工作”纳入了强化学习训练。 长任务快用完上下文时，整理出可恢复的工作状态，再接着做。 架构上采用 92 层“窄而深”设计，结合滑动窗口与稀疏注意力，降低长上下文的计算开销。目标是让 Agent 做得更久，同时控制反复读取历史信息的成本 软件工程与 Kimi、GLM 有来有回，金融表现突出；复杂终端任务与闭源头部仍有明显差距。 官方展示了几个具体案例： 连续超过 3 小时，根据设备反馈修改代码、调试可编程键盘。 给定 24 小时优化 GPU Kernel，约第 22 小时取得最佳结果；测试采用每个模型独立运行 4 次、取最好的一次。 玩《宝可梦 红》超过 3,000 回合，累计交互接近 600 万 tokens，拿到第三枚徽章，尚未通关。

曝光 325 · 评论 2 · 点赞 1 · 书签 1 · 曝光/时 104.49543089512657