Kimi K3.1 Pro 技术博客解读:大规模强化学习带来的 Agent 执行能力跃升 沿用 K3 的 2.8T MoE 架构、104B 激活参数和 10… · @kqyno7 · TwKit
@kqyno7
Kimi K3.1 Pro 技术博客解读:大规模强化学习带来的 Agent 执行能力跃升 沿用 K3 的 2.8T MoE 架构、104B 激活参数和 100 万 Token 上下文,核心升级集中在后训练阶段 结合官方技术博客与 Artificial Analysis 评测,总结了几个关键点 📌 🧠 01|训练方法:数百领域联合强化学习 在数百个下游领域开展大规模 RL,同时优化: • 训练框架与长上下文推理 • Agent 沙箱环境与任务轨迹调度 • 环境质量控制与反馈可靠性 核心思路是让训练算力的增加持续转化为能力提升,而不只是简单堆砌训练规模 具体奖励机制尚未详细披露,重点在于整个 RL 训练系统的工程优化 📈 02|关键结果:Agent 能力提升最突出 Artificial Analysis 独立评测: • Intelligence Index:55 分,第 4,较 K3 +11 • GDPval-AA:1846 Elo,第 3,+312 Elo • Terminal-Bench 4.0:13% → 67% • AutomationBench-AA:58% → 73% 相比科学推理等能力的温和增长,工具调用、终端操作与复杂工作流执行的提升更为显著 🛠️ 03|技术亮点:自主排错与复杂任务执行 官方展示了一个人体行走仿真案例: 模型发现调整奖励函数无效后,转而排查底层动力学,修复了 36 处肌肉力臂计算错误,再重新训练控制器 重点不仅是完成任务,而是能够发现原有路径的问题,并主动调整策略 其他表现: • BenchCAD:3D 建模形状重合度 92.7% • OfficeQA Pro v2:64.4 分,涉及财务文档检索、核验与多步计算 • Hallu Bench Hard:断言级幻觉率 23.4% → 8.3%(内部困难测试) 🚀 04|开放进展 Kimi、Kimi Work、Kimi Code 和 API 已上线 Highspeed 版号称提速 2–3 倍,完整模型权重计划不晚于 11 月 4 日发布 Agent 能力的提升,不仅仅只是模型本身的推理能力问题,更取决于训练环境、反馈质量和长任务调度能力 从 K3.1 的技术博客上来看,从会做逻辑推导,到能落地执行动作,再到可以自主发现问题、修正偏差,后训练体系,已经成了各家拉开差距的核心领域 #Kimi #KimiK31 #强化学习 #AIAgents #LLM
曝光 508 · 评论 6 · 点赞 5 · 书签 0
查看原帖