随着模型能力提升,Agent 外壳(harness)的代码最先该删哪部分? Turing Post 最近发了期访谈,聊模型正在吃掉自己的外壳。博主 @leo… · @jiangkoumo_ · TwKit
@jiangkoumo_
随着模型能力提升,Agent 外壳(harness)的代码最先该删哪部分? Turing Post 最近发了期访谈,聊模型正在吃掉自己的外壳。博主 @leo114119 总结得很直接,帮弱模型补短板的代码过时最快,但管状态和权限的基础设施要求更高 过去一年大家使用 Agent,很多精力花在给模型当保姆,用几千字提示词教它一步步思考,卡死输出格式必须是特定 JSON,动不动把任务拆成四五个子 agent 互相倒手,再封装一堆专用语法的胶水工具。这套脚手架(scaffolding)在模型逻辑差、容易跑飞时管用,算是一根临时拐杖 10 月 18 日我们在 DeepSeek-V4.1-Flash-1017 上跑多步任务,直观感受到了这种反噬 给它套上复杂的编排规则和反思格式,每轮多耗上千 token,模型反而在格式纠错里打转;多 agent 拆解还把上下文切得稀碎,任务成功率直接掉了下来 换到 Pi 这种极简外壳,只给 read、edit、write、bash 四个基础原语,配合 codemode 让模型自己在沙箱写脚本批量调工具。外壳不教模型怎么思考,也不替它当二传手,执行速度和成功率都明显提上来了 模型变聪明后,替它思考的代码就成了技术负债。外壳必须守住、模型自己也做不到的,是操作系统级的运行时(runtime) 权限拦截要由底座卡死。不能靠提示词求模型别越权,必须在运行时切断危险动作,防止误跑 rm -rf 或越权碰敏感系统 进程断电或执行中断后,系统要能从检查点(checkpoint)随时拉起来接上,这是状态持久化该做的事 遇到耗时外部事件,直接登记挂起并暂停,不需要空转轮询,等外部回调触发再唤醒续跑 碰到超大输出或万行日志,底座负责做截断和流控,防着无用信息撑爆上下文窗口 写 Agent 脚手架时,有一条很划算的取舍原则: 给系统加新提示词、专用工具或者多 agent 流程前,先跟单 agent 跑个基准。只要下一代模型变强能顺手解决的问题,就坚决不写这层胶水 把省下来的精力,用在做扎实的沙箱隔离、检查点与运行时权限拦截上
曝光 146 · 评论 3 · 点赞 3 · 书签 0
查看原帖