推文

@alacheng · 2026-10-11 16:00

像GrokBot @bot 这样主动式的代理如何工作的？ 前 Cursor，现 SpaceX ML 工程师 @leerob 在斯坦福 CS146S 课程的约 45 分钟客座讲座，主题是「always-on、proactive agents 」主动式的常驻/全天候主动智能体如何工作的？（以他们的产品 GrokBot @bot 为例） How we got here： 开发者与 AI 协作的四个阶段（复制粘贴 → 终端 agent 逐步审批 → 后台并行 agent → always-on）。人的角色从逐步批准变成随时转向，界面越来越简单（像发短信）。 What changed in the models： 六项关键模型能力——长时间稳定执行指令、把手活交给有全新上下文的 helper/子代理（相当于无限上下文）、用真实工具（shell、文件、浏览器、MCP）、操作没有 API 的电脑应用、知识存在普通文件里、看你演示一次就能学会并保存成 skill。 Inside an always-on agent： 生命周期与架构。没事时什么都不跑（进程空闲几分钟就停，云电脑休眠），事件（消息、定时任务、Slack、电话、完成的工作等）唤醒后跑一轮再停。每个用户一台 Firecracker VM（Debian 容器），状态、记忆、skills、routines 都在数据库。所有端（桌面、手机、Slack 等）看到同一会话。 The harness： 只用一个工具跟用户说话，需要确认的事（登录、支付、发邮件等）用专门 UI 控件，密码等不进模型。 工具按需加载（先给名字，细节动态加载，节省上下文）。 信息获取按成本阶梯升级 （已知信息 → API/connector → web search → 自己登录的浏览器 → 完整桌面 → 问你）。 重活交给 helper，主 agent 只收简报；安全有多层防线。 Context engineering： Prompt 缓存：前缀尽量不变、只在末尾追加、把 cache miss 当 bug 处理。 压缩与记忆：趁缓存还热时做总结；记忆分层（Profile 常驻、Log 只加载最相关的、Notes 短期、其余靠搜索）。 Where this is going： 产品与模型共同进化（每个失败变成 eval，内循环修 harness，外循环训模型）；预测未来 6–12 个月更长项目、更好记忆、更强工具、更简单界面等；建议尽量少造东西，假设模型会快速变强，同时学好新积木（durable workflows、memory & skills、triggers 等）和底层原理。

曝光 848 · 评论 6 · 点赞 12 · 书签 7 · 曝光/时 144.71762608360018