推文

@BaiBtw · 2026-10-14 05:02

Agent 跑长任务，提示缓存一掉，账单和等待时间都可能往上蹿。Claude Code 这套设计有5个细节： 1. 内容按变化频率排 工具和系统提示放前面，再放 CLAUDE.md、会话信息，最后接不断增长的对话。缓存按前缀匹配，前面改了，从改动处往后的缓存就用不上。 2. 更新往后补 日期、文件状态变了，用后续消息补充。把实时钟塞进固定提示词，或者每次乱排工具顺序，都可能让缓存白建。 3. 换小模型，先算历史的账 不同模型不共用缓存。长对话中途换模型，要把重新处理历史的成本算进去；也可以整理必要信息，交给另一个模型的子 Agent。 4. 工具按需进入上下文 defer_loading 让工具被搜索到后再加载。切换计划模式，也可以追加指令，保留原有工具定义。重点是稳住已有前缀；当前 API 也支持通过后续消息调整工具可用性。 5. 压缩历史也要复用缓存 做摘要时，沿用原来的提示、工具和历史，把总结要求接在末尾，并提前留出摘要空间。这样省的是总结这一步的重复输入开销，压缩后的历史仍会变化。 缓存命中率得单独盯。模型单价、历史长度、缓存是否命中，这几笔账要一起算。

曝光 191 · 评论 4 · 点赞 3 · 书签 0 · 曝光/时 93.4520903062464