Agent 高频题 12. Token 成本怎么控，缓存命中率为什么不同 · @cxjwin · TwKit

@cxjwin

腾讯一场社招一面，从省 Token 一路问到了实验：Token 消耗有哪些优化手段？提高 KV Cache 命中还有什么办法？Skill 折叠了、正文移走了，KV Cache 会被破坏吗？做过实验吗，量过移走和不移走各花多少 Token？

曝光 1120 · 评论 1 · 点赞 1 · 书签 2