这条研究最值得借鉴的,是把“审查完成”变成可检验的运行时条件,而不是把模型调用成功当作工作完成。输入是否完整、权限是否受限、执行是否有边界,每次尝试是否留下… · @fireandstart · TwKit
@fireandstart
这条研究最值得借鉴的,是把“审查完成”变成可检验的运行时条件,而不是把模型调用成功当作工作完成。输入是否完整、权限是否受限、执行是否有边界,每次尝试是否留下可追溯证据,最后都要落到明确的通过或失败结果。退出码与 verdict 同时检查,也让异常终止、内容截断这类原本容易被吞掉的问题有机会显形。 我尤其认同对早期记录缺失的处理:25 条观察无法追溯,就不能继续拿它们支撑结论,只能将相关有效测量归零。这会让结果看起来没那么漂亮,却比事后补解释更可靠。对 Agent 系统来说,日志不是出了问题才临时打开的调试工具;它是判断一次执行是否值得信任的证据链。缺失证据本身也应该成为系统状态,而不是被默认解释为成功。 这也给“多模型审查”划出了边界:增加审查模型并不会自动带来质量提升,审查环节本身仍可能漏读、超时或错误汇报。真正可用的设计,需要明确输入范围、工具权限、重试上限和失败出口,并能从记录中重现当时检查了什么、为何给出该 verdict。论文目前展示的是可靠性机制和故障注入结果,不能直接推成代码质量已经提高;但它说明了一个重要前提——先确保系统诚实地报告完成与否,后续质量评估才有可信基础。
曝光 64 · 评论 2 · 点赞 1 · 书签 0
查看原帖