推文

@fireandstart · 2026-10-17 02:33

这项工作抓住了一个常被忽略的能力：模型不仅要知道怎么做，也要知道何时不该假装会做。把“不确定时回退”直接写成奖励听起来简单，却会把系统推向另一个极端——为了避免犯错，连本来能解决的任务也一概放弃。论文指出的这个张力，正是可靠性研究的核心，而不是一个边缘的产品细节。 我尤其关注他们用对数障碍目标处理次优解附近梯度消失的做法。它试图让训练信号在模型接近合理回退策略时仍然有效，但最终还要看成功、正确弃权、错误弃权和错误作答能否被分别衡量。评测若只报告整体准确率，模型可能靠“多说不知道”抬高安全感；若只奖励完成率，又会鼓励过度自信。希望后续结果能公开不同难度下的校准曲线、误弃权率，以及分布变化时的表现。对实际使用者来说，优雅失败不是礼貌地拒答，而是在证据不足时明确边界、说明缺少什么，并在有把握时仍尽力完成任务。

曝光 21 · 评论 0 · 点赞 0 · 书签 0