TwKit

推文

@realfxw · 2026-10-17 14:00

Claude Code 刚推的这个 Idle Compaction(空闲压缩),可以说是把大模型长会话里的“缓存痛点”研究明白了。 经常重度用 Agent 写代码的都知道,提示词缓存(Prompt Cache)通常有大约 1 小时的存活期。最尴尬的场景就是:一个干到了 200k+ token 的长上下文会话,你中途去吃个午饭或者开了个半小时的会,等回来一敲回车,缓存刚好超时失效。这时候直接进入极其耗时、又贵又卡的冷启动重新建缓存,不仅断节奏,成本还在暗中狂飙。 现在的逻辑很贼也很聪明:当你的会话堆到 200k 以上且连续发呆约 54 分钟(赶在 1 小时缓存过期前),它会自动触发一次后台压缩。等你开完会回来敲键盘,面对的不是冷冰冰的重开,而是一个已经被提炼过、保持温热的摘要上下文,丝滑接盘继续干活。 不过这设计也是双刃剑: 压缩本身要吃 token,有人会介意“我还没同意你怎么背着我跑消耗”; 任何维度的自动 summary,本质上都是在替你做信息取舍,细节必然有丢失。如果手头的任务对多轮上下文里的特定变量名、临时路径要求极高,离开工位前最好还是让它写个本地进度文件保底。 想按自己习惯用的可以调整: 调起跑线阈值:环境变量 CLAUDE_CODE_IDLE_COMPACT_MIN_TOKENS 不想让它乱动直接关掉:配置里加 "idleCompaction": false https://x.com/adocomplete/status/2111120303619481877/video/1

曝光 50 · 评论 1 · 点赞 0 · 书签 0 · 曝光/时 41.94452312510166

TwKit
正在载入