推文

@vintcessun · 2026-10-13 12:32

让模型“有验证能力”不等于它会去验证 https://arxiv.org/abs/2610.08097 这项研究把数学工具的结果悄悄改成看似合理的错误信息，测试智能体能否扛住。31 道题里，不验证时准确率从 100% 跌到 72.4%；强制反思则恢复到 100%。可选验证效果取决于模型是否主动调用，不能说明验证器本身更强。结果值得警惕，但题目少、偏容易，结论还不是普遍保证。

曝光 266 · 评论 7 · 点赞 7 · 书签 1 · 曝光/时 103.1772360994612