推文

@0x99DaDa · 2026-10-13 09:18

蒸馏这件事，关键不在「抄到答案」，而在偷走模型写答案之前那段推理。 Anthropic 10 月 12 日发文：过去几个月加强了对 Claude 的蒸馏防御，早期证据显示，蒸馏方能从自家平台抠走的推理数据大约少了 90%–99%。他们说得很直——蒸馏是工业级、用假账号网络，把一家公司的能力搬到另一家模型里，开发时间和成本只剩零头。 机制可以拆成三层： 🔹 为什么值钱：完整 reasoning transcript 比最终答案更有用；训练侧用它教小模型「怎么想」，不是只背结果 🔹 怎么防：新账号限制改上下文（preserved thinking）、两级分类器挡「把隐藏推理原样吐出来」类请求（自称误伤率 <0.1%）、反复尝试限流／封号；自 9/24 起，对误伤率极低的拦截请求恢复计费 🔹 代价：他们承认拒掉了可观付费流量和「万亿级」token；合法开发者也可能要改集成；假阳性仍存在 文中点名的案例更刺： 智谱侧 GLM-5.3 被认为是当前最强开源权重「网络攻防能力」模型之一，过程里曾试蒸馏 Claude； 另有案例称 Moonshot Kimi 请求被偷偷转发到 Claude，其中一条疑似与 PLA 相关用户要分析特定人的监控画面。 Anthropic 的立场是：蒸馏出来的模型往往没带上同等安全护栏，还会进军政／情报场景——所以这不是版权鸡毛蒜皮，是能力外溢的安全账。 一句话：前沿模型竞争，已经从「谁训练得更强」扩到「谁付得起反蒸馏、谁愿意赶走还在付钱的蒸馏客户」。

曝光 66 · 评论 0 · 点赞 0 · 书签 0