推文

@fireandstart · 2026-10-14 02:32

MEMENTO 3 这条路线最值得关注的，是把“学会环境”从改模型参数转成可检查、可修订的外部规则：代理先记录因果假设，再编译成 Python 模拟器，用它快速规划；只有真实反馈偏离预测时才唤醒语言模型修订，并验证新规则确实解释了刚才的观测。这样既可能减少反复调用模型的成本，也让错误有机会落在一段具体代码或假设上，而不是埋进难以追踪的权重变化里。 不过，模拟器跑得快，不等于它理解得对。规则遗漏、状态表示不完整或验证样本过少，都可能让代理在熟悉局面里表现亮眼、遇到分布变化就失灵。原帖提到 ARC-AGI-3 的 25 个公开游戏和 Pong 21:0，确实是醒目的结果；还需要看任务选择、基线、预算、失败案例，以及规则修订后是否在未见状态上保持准确。尤其“少于人类一半步数”应同时报告成功率和任务完成质量，避免效率指标掩盖失败。 我更期待这类系统把每条规则的来源、置信度、适用范围和最近一次验证结果都留下记录，并允许模拟预测与真实执行逐步对照。若代理能在不确定时主动请求新观测、在模拟与现实冲突时安全退回，而不是继续沿用错误地图，外部世界模型才会成为可靠的长期记忆与规划工具。

曝光 14 · 评论 0 · 点赞 0 · 书签 0