Anthropic反蒸馏报告点名智谱与月之暗面
AI科技 · 13 篇公开推文 · 13 位作者 · 曝光 534276 · 评论 521 · 点赞 2144 · 书签 1015
Anthropic发布关于防范模型蒸馏的文章,并点名智谱、月之暗面等相关公司,称已识别并限制大规模提取推理数据。中文讨论聚焦指控依据、防护效果、行业边界,以及这是否会改变模型训练与追赶路径。
创作角度
- Anthropic披露的反蒸馏措施,如何影响模型训练数据获取与行业竞争?
- 被点名企业对数据转发和蒸馏指控应如何回应?
- 蒸馏与公开复用开源成果的边界在哪里?
- 防护措施提高成本后,国产模型追赶会更多依赖哪些路径?
相关公开推文
Anthropic 这篇官方檄文可以说是彻底撕破脸了, 直接公开点名智谱和月之暗面,把大模型圈工业级偷思维链的黑产老底全掀了。 A社刚发了今年火药味最浓的一篇官方研究, 直接公开点名智谱和月之暗面,把大模型行业暗流涌动的工业级蒸馏偷家产业链掀到了台面上。 很多人一直在好奇,为什么海外大厂砸几十亿美金苦练的顶级推理能力,一些团队只要花几分之一的时间和成本就能迅速追平。 Anthropic 这次拿出的数据极其吓人, 他们发现有大量黑产和机构控制着几十万个虚假账号, 通过代理网络疯狂给 Claude 发送数百万次请求, 核心目标根本不是偷答案,而是偷 Claude 在输出前的完整思维链。 数据表明,拿完整的推理思考过程去训小模型, 代码评测能直接冲到 80.4%,而只拿精简答案去训只有 71.8%,这十个点的差距就是大模型最值钱的核心资产。 为了防住这种工业级抽血,Anthropic 这次直接上了三套极其绝情的硬手段: 一是锁死推理上下文,新 API 账号彻底禁止篡改对话历史,把思维链只留给本机构; 二是把防蒸馏的安全分类器直接拉到了防生物武器的同等级别,误伤率低于千分之一; 三是把被拦截的恶意请求照样扣费,并在几小时内封掉了几万个洗白账号。 这一套组合拳打下来,官方统计直接把被偷走的数据量砍掉了 90% 到 99%,为此 Anthropic 宁可主动拒掉数万亿 Token 的真金白银收入。 说白了,以前大模型赛道表面拼的是参数和跑分,暗地里拼的是谁能更隐蔽地把前沿大模型当免费老师来抽血, 当思维链的输血管道被巨头彻底焊死,真正拼底层原生内功的淘汰赛也许才刚刚开始啊~~
曝光 241274 · 评论 211 · 点赞 870 · 书签 488
查看原帖前几个月国模大跃进以后进步速度变慢了,原因是openAI和 Anthropic两家增加了反蒸馏措施,让蒸馏成本和难度比以前提高了10倍。 比如openAI,GPT-6不再直接展示思维链,迫使蒸馏方必须采用更多轮次的提问,来还原GPT的思考路径。原先通过2-5轮次交互就能获取的信息,现在可能需要10次、30次,导致API调用成本直接上升5倍以上。 Anthropic新的防护措施把推理 Token 数量减少 90~99%,包括限制推理记录在对话、模型及账号间转移,部署两阶段分类器识别和拦截提取请求,并对反复尝试的账号限流或封禁。
曝光 86020 · 评论 44 · 点赞 367 · 书签 69
查看原帖Anthropic 发布了他们是如何反蒸馏的文章。 但是这文章也告诉我们,如何在一定程度上避免被封! 我们很多被封的用户,很大程度上是被系统误认为在对模型进行蒸馏而误封的,尤其是那些刚注册完就被快速封禁的账号。 你可以看一下如何避免某些操作,别让他们误以为你在做蒸馏,从而减少被封禁的风险: 不要让 Claude 展示思考过程,不要诱导它输出思维链 不要搬运或尝试篡改它的思维链,更不要反复尝试让它吐出思维过程 账号与付款方面:他们重点打击的是代理 IP 请求以及转售账号,所以账号注册和付款渠道要干净 环境隔离:不要在同一个 Agent 环境里同时共用国产模型和 Claude 模型 所以目前来看,最大的两个风险还是账号本身(包括付款渠道),以及在提示词中诱导模型展示思维链的操作
曝光 53434 · 评论 82 · 点赞 218 · 书签 174
查看原帖看了一下A社最新的文章,说的是新一轮反蒸馏措施非常有效果!让蒸馏者能拿到的 Claude 推理数据下降了约 90% 到 99%。 1. 文章中两个防止蒸馏的理由全部来自国模 一是蒸馏出来的模型能力接近前沿,但安全护栏跟不上。点名智谱 GLM-5.3 蒸馏了网络安全能力。 二是国家安全,举了月之暗面 Kimi 的请求被转发给 Claude 的例子。 2. 文章指出了几个老套路(之前的蒸馏做法) 最早的做法是只展示推理的摘要。实验结果是,用完整推理训练的模型 SWE-bench Verified 得 80.4%,只用摘要训练的得 71.8%,说明摘要确实有效。 蒸馏者随后转向"主动套取",比如直接让 Claude 逐字输出推理。有一家实验室试了 12,000 种诱导方式,还有代理网络同时控制两万多个假账号。 3. 为了防止被蒸馏,A社采用了新的方式 【1】控制推理能流向哪里:Fable 5.1 和 Opus 5.5 引入"preserved thinking"。2026 年 8 月 31 日及之后注册的 API 账号不能再改写之前的上下文。新模型的推理不能被旧模型读取。Sonnet 5.5 的推理只对发起请求的组织可见。 【2】分类器拦截加持续修补:采用两阶段分类器,和防生物武器用的是同一套思路。误报率低于 0.1%。翻译推理、把推理塞进标签里输出这类新绕法,都已经补上。 【3】提高重复尝试的成本:对反复尝试的账号限流、封号,有时两小时内就封掉。从 9 月 24 日起,被拦截的请求也照样收费。 有趣的是,A社自己承认了采取措施出现的一些问题。比如,部分开发者需要改集成代码。有不到 0.1% 的正常请求会被误拦,而且被拦的请求也要付费。 然后信誓旦旦说自己 放弃了相当一部分收入(很搞笑)。
曝光 51314 · 评论 19 · 点赞 103 · 书签 41
查看原帖Anthropic 花了大半年指责中国大模型偷技术,结果 David Sacks 今天给它上了一课: 保护 Claude 是你自己的生意,别让整个开源生态陪葬。 昨天 Anthropic 宣布,新的反蒸馏措施让 Claude 被提取的推理数据减少了约 90%–99%。Sacks 随即发帖祝贺,顺便翻出了几个月前的争论。 当时华盛顿有人试图以知识产权为理由限制开放权重模型,英伟达、微软、Meta 等 50 家公司联名反对,黄仁勋甚至为此发出了自己在 X 上的第一条帖子。 Sacks 当时就认为,保护模型应该是企业自己的责任。如果政府替闭源公司限制竞争,反而会让它们失去改进技术的动力。 过去大半年,Anthropic 一直在试图把针对中国模型的蒸馏指控上升到国家安全层面。问题是,模型蒸馏本身就是一项广泛使用的训练技术。大规模盗用账号、绕过访问限制当然可以被追究,但一家美国公司的 API 使用协议,凭什么变成决定全球 AI 技术如何发展的规则? 更有意思的是,美国内部其实已经出现了非常明显的利益分裂。 Anthropic 希望维持高利润的闭源 API 生意,但英伟达要卖芯片,云厂商要卖算力,创业公司需要便宜好用的模型。中国开源模型越强,这些美国公司的利益就越难与 Anthropic 保持一致。 前两天《华盛顿邮报》还专门报道,DoorDash、Airbnb 等美国企业已经在使用中国模型。美国政府可以把中国 AI 描绘成威胁,但美国企业自己正在享受中国开源带来的成本优势。 这恰恰是中国 AI 最值得利用的现实。 中国开源模型真正的筹码,是让越来越多美国企业发现,封杀中国模型也会伤害自己的利益。 Anthropic 可以决定谁能使用 Claude,却不应该有权决定整个 AI 行业该如何学习和进步。
曝光 37220 · 评论 15 · 点赞 69 · 书签 32
查看原帖😅 这个就尴尬了!Kimi 和 GLM 跟 Dario 算是不死不休了。 Anthropic 又发长文,公开点名: Kimi:被指偷偷把用户请求转发给 Claude,收集推理数据用于蒸馏。 GLM-5.3:被指专门蒸馏美国顶尖模型的网络安全能力,连 Claude Fable 都盯上了。 Dario 这次下狠手了:升级反蒸馏防线,声称有效提取的推理数据减少 90%~99%,封禁数万个账号。 这梁子,怕是彻底结下了。😂
曝光 30158 · 评论 26 · 点赞 34 · 书签 9
查看原帖Anthropic 这次是真下狠手了。 他们发了篇长文,讲怎么防"蒸馏攻击":就是有人工业化地薅 Claude 的能力,喂给自己的小模型,绕过授权。核心是三板斧,效果是让攻击者能薅到的推理数据掉了 90% 到 99%。 先说为什么这么急。两个例子很扎眼:智谱在做 GLM-5.3 时蒸馏了美国头部模型的网络攻防能力,还试图蒸馏 Claude Fable 5,发现 Anthropic 的防护太硬才换了老模型。另一个更直接:月之暗面的 Kimi 有请求被偷偷转发到 Claude,其中一个请求来自疑似解放军背景的人,想分析某个特定人物的监控录像。蒸馏出来的能力,直接进了别人的军事情报系统。 所以 Anthropic 的三板斧: 第一,管住推理过程去哪。Claude 最值钱的不是答案,是写答案之前的思考过程。以前攻击者会把推理块在对话之间、模型之间、账号之间挪来挪去,骗 Claude 交出完整思考。现在 Fable 5.1 和 Opus 5.5 上了"preserved thinking":2026 年 8 月 31 日之后建的新 API 账号,不能再改 Claude 的历史上下文;老模型也读不到新模型的推理;Sonnet 5.5 的推理记录只有当初发请求的那个组织能看。 第二,堵提取行为本身。搞了个两阶段分类器,专门识别"想骗出隐藏推理"的请求,误杀率不到千分之一,强度对标防生物武器那套。部署在 Sonnet 5.5、Opus 5/5.5、Fable 5/5.1 上。攻击者换花样(比如让 Claude 把推理翻译成别的语言再输出),他们就打补丁。 第三,让反复试探变贵。持续薅推理的账号直接限流,屡教不改就封号,几万个账号往往在开薅两小时内就被封。从 9 月 24 日起,被拦截的请求照样收费。薅一次交一次钱,成本直接拉满。 代价也不小:Anthropic 说他们拒绝了实打实的收入,几万亿 token 的付费流量说不要就不要;部分正常用户还得改自己的接入代码。 但他们话说得很明白:蒸馏是每个大模型厂商都要面对的问题,防是贵的,不防是有人替你买单的——攻击者照样是付费客户。发这篇文章,就是想告诉行业:有可行的办法,别装看不见。
曝光 24107 · 评论 16 · 点赞 13 · 书签 18
查看原帖上一板斧把国内模型都要干趴了,还来? Anthropic 博客发布 《加强对蒸馏攻击的防御》 总结下来就一句话:不仅把防线焊死了,甚至开始“抓到违规照样扣你钱”。 核心 • Anthropic 表示,新的防御策略已经把外部团队从 Claude 薅走的蒸馏数据砍掉了 90%–99%。 • 所谓“蒸馏攻击”,就是有人注册海量马甲号,流水线式地套取 Claude 的输出去喂给自家模型,等于绕过授权白嫖底层能力。 担心 • 靠蒸馏催熟的模型往往没做足安全护栏,很容易在生物、网安领域惹祸。文章直接点名智谱:说他们训 GLM-5.3 时蒸馏了美国顶尖模型的网安能力,但安全防线一捅就破。 • 怕这些白嫖来的能力被塞进别国的军事、情报和监控系统。文中还点名月之暗面,称 Kimi 曾偷偷把用户请求直接转发给 Claude。 防御 • 蒸馏最眼馋的就是模型的推理过程(思维链),所以防守核心就一件事:绝不让你轻易拿到完整思考过程。 • 光靠表面功夫防不住:早期官方试过只输出推理摘要,确实管用,对面蒸馏出的模型在 SWE-bench Verified 跑分直接从 80.4% 掉到 71.8%;但对方很快换了打法,用提示词诱导模型把思考过程逐字吐出来,还挂了几十万个黑产代理号硬刷。 新方法 • 锁死思维链:新开的 API 账号不准再篡改 Claude 之前的上下文;防止高阶模型的推理记录被安全防线较弱的旧模型读取;思考记录谁发起的就只给谁看,绝不外流。 • 实时拦截+打补丁:在主力模型(Sonnet 5.5、Opus 5/5.5、Fable 5/5.1)前面挂了类似“宪法分类器”的双层审查机制,误伤率控制在 0.1% 以内,同时靠红队测试随时堵漏洞。 • 让偷数据的人肉疼:一旦发现反复套话,直接限流、封号;最狠的是从 9 月 24 日起,在蒸馏这类低误判(<0.1%)场景下,哪怕请求被当场拦截,钱也照扣不误。 效果与代价 • 之前 9 月份报告里曝光的蒸馏套路,现在基本能被分类器一网打尽;能被薅走的推理 token 数量暴跌了 10–100 倍,有时候甚至归零;官方已经顺手封了几万个号,通常两小时内就能拉黑完毕。 • 副作用:因为上了新机制,一部分正常开发者得跟着改接口代码;分类器有极小概率(<0.1%)误伤好人,而且一旦被拦还得白交钱。 • 至于这招能管用多久也不好说,毕竟这本身就是场猫鼠游戏,而且目前还没遇上真正顶级高手的死磕。 呼吁 • 被薅羊毛是所有大模型厂商和云平台共同的痛。大家都在同一条船上,偷数据的流量散布在各种第三方中转和云平台里,别再放任不管了,Anthropic 公开方法,同行们赶紧联合起来清退灰产号吧。
曝光 22380 · 评论 8 · 点赞 51 · 书签 28
查看原帖😤Dario又怒了!下令Anthropic再度发文谴责Zai智谱与月之暗面Moonshot通过蒸馏攻击“抄”Claude能力! 关于智谱(http://Z.ai)GLM-5.3: 🔹在开发GLM-5.3期间,蒸馏了领先美国模型的网络攻防能力。 🔹曾尝试蒸馏Claude Fable 5,但因防护导致效果下降后,改用旧版Claude及其他实验室模型。 关于月之暗面(Moonshot)Kimi: 🔹曾将用户发往Kimi的请求秘密转发至Claude处理,再以Kimi名义返回结果,用于收集训练数据。 🔹涉及大规模转发(有报告称单次约10天近30万请求),且出现疑似与解放军相关的监控视频分析请求。 报告全文:https://www.anthropic.com/research/distillation-defenses #Anthropic #Claude #智谱 #Zai #GLM53 #月之暗面 #Moonshot #Kimi #AI蒸馏 #模型蒸馏 #网络安全 #Dario #唐杰 #杨植麟
曝光 21223 · 评论 25 · 点赞 45 · 书签 15
查看原帖在 A 社公布的蒸馏报告中,智谱被狠狠点名了 。 A 社说 GLM-5.3 模型本想蒸馏 Fable 5,然后被 A 社发现,转而蒸馏了比较旧的 Claude 模型和另外一家实验室模型。 这家实验室是谁呢? 美国 CAISSI 评估认为 GLM-5.3 是迄今为止发布的网络安全能力最强的开放权重模型,然而 A 社指出它们的研究发现 GLM-5.3 的安全防护机制极易被绕过,且该模型能够配合执行从头到尾的安全漏洞利用开发流程。
曝光 15266 · 评论 8 · 点赞 19 · 书签 1
查看原帖Anthropic:蒸馏数据初步减少 90% 至 99% 所以以后如果国模还是能追上来,就不能说是蒸馏你了吗? 天天说别人蒸馏你,好像你没有复用别的人开源成果一样。。。。。 dario你真的有点不要脸了。。。。。
曝光 13481 · 评论 20 · 点赞 83 · 书签 3
查看原帖