TwKit
正在载入
TwKit

很多团队已经给 Agent 配了自己的 system prompt、工具、skills 和执行环境,但模型后训练时又换成另一套框架。训练和上线各跑一套 ha… · @sekurimrs · TwKit

@sekurimrs

很多团队已经给 Agent 配了自己的 system prompt、工具、skills 和执行环境,但模型后训练时又换成另一套框架。训练和上线各跑一套 harness,行为差异几乎是必然的。 OpenHands 和 Snowflake 这次做的事情,就是让现有 OpenHands harness 直接成为训练环境。任务用 Harbor 格式定义,Agent 在真实工具链里执行;测试脚本的得分成为奖励,Snowflake Cortex Training 负责沙箱和 GPU 训练。 每个 rollout 都有独立沙箱。模型自己输出的 token 被记录用于训练,提示词和工具结果不计入 loss。官方示例用 Qwen3.5-4B 做代码定位任务,25 个训练步骤、每步 64 个 rollout,效果与专门搭建的 RL 实现相近。 它适合已经有稳定任务集、明确 grader 和自定义 harness 的团队,不适合“先训练看看会不会变聪明”。没有可靠奖励函数,RL 只会更努力地迎合错误指标。 需要的门槛也不低:Snowflake Cortex Training 账号、Harbor 任务、训练成本,以及对失败 rollout 的持续检查。后训练开始靠近工程流程了,但还没有变成点一下就好的产品功能。

曝光 7 · 评论 1 · 点赞 0 · 书签 0

查看原帖