Anthropic 在 Messages API 上线 Message Threads(消息线程)公测,减少 AI Agent 反复上传对话历史的开销。 过… · @0xLogicrw · TwKit
@0xLogicrw
Anthropic 在 Messages API 上线 Message Threads(消息线程)公测,减少 AI Agent 反复上传对话历史的开销。 过去,Coding Agent 每次调用 Claude,都要重新发送之前的消息和工具执行结果。现在只需首次上传完整对话,后续每轮发送新消息和上一轮回复 ID。服务器会临时保存历史记录,省去重复传输、校验和分词的时间。 这项功能已在 Claude Code 中默认启用。Anthropic 披露,在 50 万至 100 万 Token 的请求中,首 Token 等待时间中位数降低约 35%。长对话的单次请求体积中位数从约 800KB 缩至 1.8KB,减少约 99.8%。 不过,模型仍需处理完整上下文,Token 用量和费用不变。服务器保存的消息线程也会在闲置 5 分钟后过期,届时需要重新上传历史记录。
曝光 294 · 评论 1 · 点赞 2 · 书签 1
查看原帖