把 Agent 喂给模型的上下文按当前提问裁掉无关行,只留需要的,省 token。 https://github.com/caveman-ai/trim-1… · @QingQ77 · TwKit
@QingQ77
把 Agent 喂给模型的上下文按当前提问裁掉无关行,只留需要的,省 token。 https://github.com/caveman-ai/trim-1 trim-1 是一个 1.2 MB 的小模型,判断一段上下文里哪些行对当前提问有用,其余行删掉。输入一段上下文(工具输出、文件、日志、长对话)加一个查询,输出按原顺序保留的原文行,删掉的位置插入一个短标记。
曝光 451 · 评论 2 · 点赞 2 · 书签 2
查看原帖