Opus 5.5 发布后,OpenRouter 上 Anthropic 的 7 天平均 Token 消耗量直接涨了 3.6 倍。 连带着 Sonnet 5.… · @tvytlx · TwKit
@tvytlx
Opus 5.5 发布后,OpenRouter 上 Anthropic 的 7 天平均 Token 消耗量直接涨了 3.6 倍。 连带着 Sonnet 5.5 和 Haiku 5.5 的反响也很猛。 模型确实强,用的人也确实变多了。 但光靠人手敲键盘,很难在几天内把 Token 总量撑大 3.6 倍。 我觉得真正把数据拉爆的,是大家用这玩意的方式变了。 以前是人问一句、模型答一句。 现在模型够聪明了,大家敢把长任务直接甩给 Agent 自己跑循环。 原帖评论区有两个哥们把这里面的账算得很清楚: 一个是上下文的滚雪球效应。 Agent 跑循环的时候,每调一次工具、往前走一步,都要把前面攒下的一大坨上下文重新发给模型读一遍。 你让它在后台自己干半小时活,吞掉的 Token 可能是平时聊天的几十倍。 另一个更扎心:只要你有个 Agent 写得不够稳,卡在报错重试的死循环里,光这一个任务就能把你自己的消耗量翻上好几倍。 所以看现在的模型数据,有个边界得想明白: Token 消耗量暴涨,只说明机器在后台自己跟自己死磕的频次变高了,没法直接换算成真实产出的同比例暴涨。 而且 Agent 循环里绝大部分重复读取的上下文,走的都是缓存读取(Cache reads),单价很便宜,实际账单涨得远没有 3.6 倍那么夸张。 但前提是你得配好缓存,并且给 Agent 设好重试上限,不然一旦半夜卡进死循环,烧掉的可就是真金白银了。 写到这我突然有点慌,得赶紧去后台看一眼我挂着的几个定时脚本,生怕这 3.6 倍里有一截是我那个没写好退出条件的 Agent 贡献的。 https://x.com/PeterJ_Walker/status/2114377706603429899
曝光 380 · 评论 2 · 点赞 1 · 书签 0
查看原帖