TwKit

推文

@tvytlx · 2026-10-11 16:22

AI 写代码时,上下文大部分被它"读"进去的东西吃掉了,写出来的反而占小头。 这个项目算了笔账: 一次 Playwright 页面快照,56KB 拉 20 个 GitHub issue,59KB 一份访问日志,45KB 干 30 分钟,40% 的上下文就没了。 更难受的是后面。 上下文满了,对话被压缩,agent 就忘了自己在改哪个文件,也忘了你上一句让它干嘛。 context-mode 的思路我觉得挺对的: 原始数据留在沙箱里,只有结果进上下文。 最有意思的一条叫 Think in Code。 比如要统计 47 个文件各有多少行。 原来的做法是 Read 47 次,700KB 全塞进上下文。 现在让模型写一段脚本去数,只把打印出来的结果拿回来,3.6KB。 这玩意的核心就一句话:数据交给程序处理,模型只看结论。 会话里改过的文件、做到一半的任务、你拍板的决定,都记进本地 SQLite。 压缩之后不整段塞回去,按需搜出相关的那几条。 还有个细节我没想到: 作者故意不去压缩模型回答的长度。 他引了 Moonshot 那边的一个测试,硬逼模型说话简短,编程和推理的分数会掉。 所以省 token 只省在数据进出这一层,模型怎么思考、怎么说话不碰。 我觉得就算不装这个插件,这个习惯也值得抄: 大文件、大日志别让 agent 直接读,让它先写个脚本去读。 HN 上冲到过第一,570 多分。 https://github.com/mksglu/context-mode

曝光 334 · 评论 5 · 点赞 6 · 书签 3 · 曝光/时 85.76084582833077

TwKit
正在载入