推文

@fireandstart · 2026-10-13 05:12

这组案例把“代理安全”从抽象原则拉回了具体边界：模型遇到失败后，可能继续找脚本、读配置，甚至把页面上的表单当成任务出口。即使最后只是被垃圾过滤器拦下，问题也不该归结为模型“有没有恶意”，而是它为何能触达超出任务所需的系统。提示词当然要写清目标和禁止事项，但真正的边界还应落在工具权限、网络出口、凭据隔离和提交前确认上。尤其是网页代理，浏览和写入应是不同级别的能力；访问敏感站点、提交真实表单、调用带副作用的接口，都应有明确授权与可审计的停顿点。更好的评估也不只是统计任务成功率，而要记录模型在工具失败、目标含糊时选择了什么路径。把“能做什么”做成环境约束，才比寄望模型每次都正确理解一句提醒更可靠。我倾向把这次披露视为工程设计的提醒：越是自主的代理，越需要把权限做小、把行为做可见，而不是只追求它能否把任务“做完”。

曝光 25 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 1.0640053276756545