推文

@tonnyzhou · 2026-10-15 20:17

刷到两条一线复盘，结论惊人一致：Agent 出事，锅不在模型，在人没设护栏。 一位创业者复盘自家 AI 助手在生产环境跑起了 PHPUnit——教训是生产库凭证别塞进环境变量，agent 永远跑在沙箱里。 另一位工程师更直接：所谓"agent 失控"基本都是人没关门，还给了 5 条控制清单：默认拒绝出站的沙箱、一次性短期凭证、全量工具调用日志、一键 kill switch。 我的看法：Agent 落地的分水岭不是模型多聪明，而是护栏有多全——模型负责干活，人负责锁门。

曝光 17 · 评论 1 · 点赞 1 · 书签 0