TwKit

推文

@tvytlx · 2026-10-14 02:25

Agent 慢,很多时候卡在模型开口之前。 装依赖、拉仓库、跑初始化脚本。 每次都从头来一遍,用户就盯着那个圈转。 OpenAI 刚给 Agents API 加了个功能,叫沙盒预热。 逻辑很简单: 用户还在挑数据集、还在打字的时候,后台先把环境建好。 包装上,文件放进去,setup 命令跑完。 等用户一点提交,直接把这个现成的环境挂到会话上,Agent 上来就能干活。 几个细节挺有意思: 预热期间免费,连容器的使用费都不收,挂到会话上之后才按正常价格算。 没被用上的环境,5 分钟后自动过期。 所以得掐着点预热,没法提前一小时囤着。 一个环境最多能挂 128 个会话,大家共用同一个工作区,文件、进程、装好的包都是同一份,对话记录各管各的。 浏览器类任务也能预热,虚拟桌面提前开好。 我觉得这玩意值钱的地方在思路上。 模型推理短期快不了多少,那就把能提前做的事,全挪到用户反正也在忙自己的那段时间里。 用户打字那十几秒,以前就白白过去了,现在成了一段免费的干活窗口。 这招其实很老。 餐馆开门前先把菜切好,浏览器预加载你可能点的链接,都是猜你下一步要干嘛,提前干完。 对做 AI 产品的人来说,体感速度本身就是产品。 同样的模型,谁先把等待藏起来,用户就觉得谁更聪明。 我也想给自己搞个预热,闹钟响之前先把脑子开机。 问题是我这个环境闲置不到 5 分钟就过期了,直接回床上。 https://x.com/kevinwhinnery/status/2109684324048236713

曝光 128 · 评论 0 · 点赞 0 · 书签 0

TwKit
正在载入