我们发现，几乎所有接受测试的模型指纹技术都可能被绕过。为此，全新的 Fingerprinting Leaderboard 将通过公开评测，检验哪些技术能够真… · @Anitahityou · TwKit

@Anitahityou

我们发现，几乎所有接受测试的模型指纹技术都可能被绕过。为此，全新的 Fingerprinting Leaderboard 将通过公开评测，检验哪些技术能够真正经受住模型复制、微调、蒸馏及攻击的考验。 随着越来越多能力强大的 AI 模型被发布、微调、蒸馏和重新封装，这一问题正变得愈发重要。模型权重可以被复制，元数据也可能消失，使得开发者很难通过可靠的方式证明，另一个模型实际上源自自己的工作成果。 模型指纹技术提供了一种不同的思路：将来源证明直接嵌入模型本身。 在模型训练过程中嵌入隐藏的行为签名。之后，当模型所有者怀疑某个模型是由原始模型衍生而来时，只需要能够通过 API 访问这个可疑模型，就可以发送预设的秘密验证提示词，并检查模型的响应，从而判断其中是否仍然保留着原始模型的痕迹。 这种标记是在训练过程中编码进模型的行为签名。之后，我们可以通过特定的验证提示词来检查它，判断可疑模型是否仍然保留着原始模型的痕迹

曝光 223 · 评论 2 · 点赞 2 · 书签 0