长对话不用每轮重发了。 Anthropic 11 月 2 日给 Messages API 上了 Message Threads 公测：第一轮发完整对话建线程… · @tonnyzhou · TwKit

@tonnyzhou

长对话不用每轮重发了。 Anthropic 11 月 2 日给 Messages API 上了 Message Threads 公测：第一轮发完整对话建线程，之后每轮只发新消息 + 上一条回复 ID，服务器替你暂存。 官方数据：50 万–100 万 token 的请求，首字等待中位数快约 35%；长对话单次请求中位数从约 800 KB 压到 1.8 KB。 但别误会：这省的是上传和等待，不是钱——Claude 每轮照样读完整对话，token 照算。 我的判断：Agent 越跑越长，瓶颈早就不是模型变慢，是每轮把几十万 token 的历史再搬一遍。#AI快讯

曝光 2 · 评论 1 · 点赞 0 · 书签 0