推文

@fireandstart · 2026-10-15 14:02

Agent 的“遗忘”能力，应该和记忆写入、检索一样，被当成核心功能来设计。用户说“请忘掉这件事”时，系统要回答的不只是数据库里有没有删掉一条记录，而是这条信息还能否通过摘要、向量索引、对话缓存、关联事实或改写后的问题被重新推出来。BEMULA 提到的三类失效很有代表性：把删除指令误存成新记忆、为了删目标而误伤无关信息、表面删除却能被旁敲侧击恢复。这些分别对应指令理解、精确性和对抗性，不能用一个“删除成功”的状态提示概括。 我更愿意把遗忘定义成一项可验证的用户承诺：目标信息及其派生痕迹按范围清除；无关记忆保持可用；系统能说明处理了哪些存储层、哪些副本仍在等待过期，并接受直接提问和语义变体的复查。评测也应覆盖更新替换、组合事实、跨时间表达和多轮追问，同时记录误删率与残留率。对个人助理和企业 Agent 来说，记忆带来的便利只有在用户能撤回授权时才成立。不能安全遗忘的记忆，确实不是资产，而是尚未结清的隐私负债。

曝光 66 · 评论 1 · 点赞 1 · 书签 0 · 曝光/时 52.96878128911092