安全分数有时量的不是“拦得准不准”，而是模型学了哪套拦截政策。 https://arxiv.org/abs/2610.25060 作者用同一批约5.3万条提… · @vintcessun · TwKit

@vintcessun

安全分数有时量的不是“拦得准不准”，而是模型学了哪套拦截政策。 https://arxiv.org/abs/2610.25060 作者用同一批约5.3万条提示词的两套安全标签，训练20个guardrail模型，尝试标签组合、重加权、锚定、蒸馏和分类头校准，再测15个基准。验证准确率与标签政策的一致性相关更高（ρ=0.74），高于与检测能力的相关性（ρ=0.34）。但最夸张的分差主要来自仅75条版权歌词请求，不能当成普遍结论。

曝光 92 · 评论 2 · 点赞 3 · 书签 0