把所有注意力压成一个分数，遇上结构复杂的工具输出就可能近似随机 https://arxiv.org/abs/2610.28988 这篇论文提出 AttnDA… · @vintcessun · TwKit

@vintcessun

把所有注意力压成一个分数，遇上结构复杂的工具输出就可能近似随机 https://arxiv.org/abs/2610.28988 这篇论文提出 AttnDA：把每个注意力头的 focus score 组成向量，再用 Fisher 线性判别分析分类。它整体优于固定阈值，也发现头间相关结构很重要。但跨到 AgentDojo 仍不轻松，部署时需要目标域训练数据；注意力检测并非天然通用。

曝光 43 · 评论 1 · 点赞 0 · 书签 0