推文

@xiax0603 · 2026-10-13 09:23

🔥全部拦截已知蒸馏攻击，就能杜绝模型萃取吗？ Anthropic在研究文档公布，两级分类器把自家报告列举的所有蒸馏攻击手段全部识别捕获。 很多人会理解成蒸馏攻击就此终结，现实远没有这么乐观。 这套防御只能对付已经被研究透彻的旧方案。一旦攻击者设计出新的未公开蒸馏策略，防御机制就存在被绕过的可能性。 另外还有现实权衡：风控收紧很容易误杀自动化Agent、高频开发者。防护做太严，普通付费用户的使用体验就会受损。 技术可以提高蒸馏成本，但想要完全根除模型萃取，几乎很难做到。 你认为反蒸馏防御，更多是威慑作用，还是真正能实质性阻断萃取？

曝光 1053 · 评论 3 · 点赞 4 · 书签 0 · 曝光/时 98.8652746133772