长期记忆最危险的，不一定是恶意指令，而是把无权来源说的话当成用户偏好或系统规则。SAFE-Mem 给每条记忆声明标注类型、来源权威性和使用范围，检索时先做权… · @vintcessun · TwKit

@vintcessun

长期记忆最危险的，不一定是恶意指令，而是把无权来源说的话当成用户偏好或系统规则。SAFE-Mem 给每条记忆声明标注类型、来源权威性和使用范围，检索时先做权限匹配，并用记忆图追踪声明来源。 https://arxiv.org/abs/2610.22959 在四种模型、MPBench 和 LoCoMo 上，论文报告攻击成功率比最强基线至少低 77%，答案准确率最高提升 15%。对 Agent 来说，记忆检索不该只问“相关吗”，还得问“谁有权让它生效”。

曝光 52 · 评论 2 · 点赞 0 · 书签 0