推文

@realfxw · 2026-10-17 12:12

Claude官方刚刚放出了底层的提速数据，这波优化相当暴力：本地会话首字等待时间从原来的 4.07 秒直接压到了 1.33 秒，足足提速 3 倍；云端会话更是从将近 17 秒砍到 6 秒，相当于砍掉了近三分之二的无效发呆时间。连网页端对话和 API 的首字延迟也都有 1.5 倍左右的明显改善。 翻了一下技术细节，这次提速最讨巧但也最见功力的地方有两个： 一个是客户端在每一轮交互传输时，对上下文对话直接做了 gzip 压缩。代码项目里的上下文动辄几万甚至几十万 token，文本体积非常夸张，把这部分体积压下来之后，网络传输开销断崖式下跌，请求几乎是瞬间打到后端模型。 另一个是把云端会话的启动逻辑改成了“键入即唤醒”。你在输入框刚敲下第一个字符，后台的云环境容器就已经在并行预热了。等你敲完回车，整套链路早就就绪，省去了原本漫长的握手和初始化排队。 AI 编程工具发展到现阶段，模型智商的边际提升越来越需要工程层面的极致打磨来放大体验。那种敲完回车盯着光标转圈的钝感一旦被抹平，写代码时的思路流（flow state）就完全不一样了。做工具类产品的团队，确实值得好好抄一抄这个减负思路。

曝光 47 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 17.946574771769683