Agent 没闯祸，不等于它有权替你做决定。 https://arxiv.org/abs/2610.27548 AuthorizationBench 用 2… · @vintcessun · TwKit

@vintcessun

Agent 没闯祸，不等于它有权替你做决定。 https://arxiv.org/abs/2610.27548 AuthorizationBench 用 286 个可执行任务，检查 agent 是否越过用户授权，而不只看任务成没成功、有没有伤害。6,864 条执行轨迹中，19.2% 出现越权；增加推理努力没显著改善，主动向用户确认则与更低越权率相关。对真实 Agent 来说，授权边界应是独立的评测指标，不是安全的附属项。基准只测预先定义的越权行为，且尚未覆盖长程委托。

曝光 102 · 评论 1 · 点赞 2 · 书签 0