TwKit
正在载入
TwKit

以前用 Claude API 跑长对话,每一轮都得把全部历史再传一遍;现在可以只传「新的那句」了。 Anthropic 给 Messages API 上了 … · @aspinojony1 · TwKit

@aspinojony1

以前用 Claude API 跑长对话,每一轮都得把全部历史再传一遍;现在可以只传「新的那句」了。 Anthropic 给 Messages API 上了 message threads 公测:第一轮照常发完整对话加一个 thread 参数,之后每轮只发新消息和上一条回复的 ID,服务器帮你拼回上下文。 官方数据:Claude Code 大部分用户已默认开启,50 万到 100 万 token 的请求,首字延迟中位数降了约 35%。 几个容易误会的点: - 省的是延迟和上传量,不省 token,模型每轮还是读完整对话,按原价计费; - 线程 5 分钟没新请求就过期,客户端要自己留一份历史,过期了重发; - 线程放内存里、加密、不落盘。 我觉得最受益的是带截图的电脑操作 Agent,截图不用每轮重传了。 你的 Agent 一次会话一般跑多长?

曝光 6 · 评论 1 · 点赞 0 · 书签 0

查看原帖