给 Agent 开了写数据库、转账这类权限，靠提示词约束还不够；这篇论文把约束放到了工具调用的闸门上。 https://arxiv.org/abs/2610… · @vintcessun · TwKit

@vintcessun

给 Agent 开了写数据库、转账这类权限，靠提示词约束还不够；这篇论文把约束放到了工具调用的闸门上。 https://arxiv.org/abs/2610.28484 PC2 要求 agent 每次调用工具前提交机器可检查的证明，说明操作在模型允许的所有情形下都符合契约；隔离层 Airlock 验证通过才执行。Agent 仍可自主规划，但不能跳过检查。关键边界也很现实：证明只保证契约写明的内容，工具实现还得忠实，契约也得覆盖真实风险。

曝光 44 · 评论 1 · 点赞 0 · 书签 0