第1023期 小路和你读AI论文。今日4篇高质量论文。 1. 𝗦𝗶𝗺𝘂𝗹𝗮𝘁𝗲𝗱 𝗖𝗼𝗻𝘁𝗿𝗼𝗹 𝗘𝘃𝗮𝗹𝘀（《模拟控制评估》） 链接：https://ar… · @Zen_with_AI · TwKit

@Zen_with_AI

第1023期 小路和你读AI论文。今日4篇高质量论文。 1. 𝗦𝗶𝗺𝘂𝗹𝗮𝘁𝗲𝗱 𝗖𝗼𝗻𝘁𝗿𝗼𝗹 𝗘𝘃𝗮𝗹𝘀（《模拟控制评估》） 链接：https://arxiv.org/abs/2610.31593 作者背景：Redwood Research 用语言模型模拟工具响应来代替真实环境，在更广泛的部署场景里评估安全保障措施。传统控制评估依赖特制环境再外推到部署，容易被环境和任务差异带偏。在 LinuxArena 上，这套方法预测安全性的 RMSE 只有 3.6 个百分点，BashArena 是 10.1，还能高保真复现攻击策略和推理分布。对安全研究者和做部署评估的人来说，控制评估有了可扩展的路线。 2. 𝗤𝘂𝗲𝘀𝘁𝗶𝗼𝗻𝗶𝗻𝗴 𝗜𝗻𝘀𝘁𝗿𝘂𝗺𝗲𝗻𝘁𝗮𝗹 𝗖𝗼𝗻𝘃𝗲𝗿𝗴𝗲𝗻𝗰𝗲 𝗶𝗻 𝗥𝗟𝗩𝗥: 𝗖𝗵𝗲𝗰𝗸𝗽𝗼𝗶𝗻𝘁 𝗘𝘃𝗶𝗱𝗲𝗻𝗰𝗲 𝗳𝗿𝗼𝗺 𝗢𝗟𝗠𝗼-𝟯（《质疑RLVR中的工具性收敛：来自OLMo-3的检查点证据》） 链接：https://arxiv.org/abs/2610.31624 作者背景：ASELSAN、BlueDot Impact、明尼苏达大学（研究对象为 Ai2 的开源模型 OLMo-3） RLVR 后训练并不会让工具性收敛行为单调上升。OLMo-3-7B-Think 上这一行为从 SFT 阶段的 25% 涨到中期约 46%，最终降到 11.8%，比 SFT 基线还低。工具性收敛常被当作"能力增强会带来权力寻求"的理论依据，这篇用多检查点轨迹挑战了单调性假设。对对齐研究者和后训练实践者有直接参考价值，评估时要看完整训练过程，只看端点分数会漏掉中间的峰值。 3. 𝗙𝗿𝗼𝗺 𝗣𝗿𝗼𝗺𝗽𝘁𝘀 𝘁𝗼 𝗣𝗼𝘀𝘁𝗲𝗿𝗶𝗼𝗿𝘀: 𝗖𝗮𝗻 𝗟𝗟𝗠 𝗔𝗴𝗲𝗻𝘁𝘀 𝗣𝗲𝗿𝗳𝗼𝗿𝗺 𝗕𝗮𝘆𝗲𝘀𝗶𝗮𝗻 𝗜𝗻𝗳𝗲𝗿𝗲𝗻𝗰𝗲 𝗶𝗻 𝗖𝗼𝗻𝘁𝗲𝘅𝘁?（《从提示到后验：LLM智能体能在上下文中做贝叶斯推断吗？》） 链接：https://arxiv.org/abs/2610.29331 作者背景：Yarin Gal，牛津大学 OATML LLM 在上下文里更新信念时通常违反贝叶斯规则，但结合推理能力和代码执行后，可以近似复杂甚至解析上难以处理的后验。科学发现场景常默认 LLM 能做连贯的概率更新，这篇系统评估了认识论一致性和后验恢复能力。对科学 AI 研究者，以及用 LLM 做假设更新的实践者来说，工具辅助贝叶斯推理的能力边界在哪里，这篇给出了答案。 4. 𝗗𝗶𝗿𝗲𝗰𝘁 𝗣𝗮𝘀𝘀@𝗸 𝗢𝗽𝘁𝗶𝗺𝗶𝘇𝗮𝘁𝗶𝗼𝗻 𝗳𝗼𝗿 𝗧𝗵𝗼𝘂𝗴𝗵𝘁 𝗣𝗿𝘂𝗻𝗶𝗻𝗴: 𝗕𝗮𝗹𝗮𝗻𝗰𝗶𝗻𝗴 𝗤𝘂𝗮𝗹𝗶𝘁𝘆 𝗮𝗻𝗱 𝗗𝗶𝘃𝗲𝗿𝘀𝗶𝘁𝘆 𝗶𝗻 𝗧𝗲𝘀𝘁-𝗧𝗶𝗺𝗲 𝗥𝗲𝗮𝘀𝗼𝗻𝗶𝗻𝗴（《面向思维剪枝的直接Pass@k优化：平衡测试时推理的质量与多样性》） 链接：https://arxiv.org/abs/2610.31667 作者背景：南加州大学（USC） 在早期前缀阶段直接优化所选部分解池的 pass@k，让部分推理轨迹的质量和多样性自然取得平衡，效果优于现有基于质量或多样性的剪枝策略。测试时扩展依赖大量候选解，全量生成成本很高，这套框架直接优化目标指标，不再靠启发式把质量和多样性分开处理。对做推理效率的研究者和实践者有实用价值，能在降低测试时计算成本的同时保持甚至提升性能。

曝光 383 · 评论 1 · 点赞 5 · 书签 1