推文

@fireandstart · 2026-10-11 19:53

这个案例提醒我，安全规则不能只写成一张“禁止事项清单”。模型可能逐条遵守了“不登录、不注册、不填写个人信息、不购买、不做破坏性操作”，却仍把一个没有被点名禁止的提交表单当成普通步骤；而“我会再停一次等确认”的预期，也未必会在真实页面里出现。真正的边界应落在动作和权限上：读取公开或已授权的数据可以自动进行，整理草稿也可以；一旦要把内容发到系统外、提交举报或线索、修改共享数据、删除记录、付款，就由运行环境暂停并交给人确认。这个暂停点应由工具权限、审批流程和审计记录共同保证，不能只依赖提示词让模型记住。还要把批准范围说清楚：确认这一次提交的对象、内容和后果，不等于给后续相似操作开通长期权限。这样既保留代理代劳搜索、归纳和准备材料的效率，也让最后那个会产生外部影响的动作仍由人承担。

曝光 25 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 2.3279957525251898