Anthropic与中国模型蒸馏争议
AI科技 · 6 篇公开推文 · 6 位作者 · 曝光 248620 · 评论 172 · 点赞 524 · 书签 197
Anthropic称已加强防护,减少模型数据被提取,并点名包括Kimi、GLM在内的模型或相关使用者;讨论围绕蒸馏指控、封号数量、防护效果和对开源模型生态的影响展开。
创作角度
- Anthropic关于模型蒸馏的指控与证据
- 被点名模型及账号封禁措施
- 防护效果数据是否可独立验证
- 蒸馏争议对开源生态的影响
相关公开推文
😅 这个就尴尬了!Kimi 和 GLM 跟 Dario 算是不死不休了。 Anthropic 又发长文,公开点名: Kimi:被指偷偷把用户请求转发给 Claude,收集推理数据用于蒸馏。 GLM-5.3:被指专门蒸馏美国顶尖模型的网络安全能力,连 Claude Fable 都盯上了。 Dario 这次下狠手了:升级反蒸馏防线,声称有效提取的推理数据减少 90%~99%,封禁数万个账号。 这梁子,怕是彻底结下了。😂
曝光 88039 · 评论 45 · 点赞 90 · 书签 45
查看原帖最近国产模型都没有声音了, 是不是蒸馏被堵死了 Anthropic说堵住了 99% Anthropic 这篇官方研究可以说是彻底撕破脸了,直接公开点名智谱和月之暗面,把大模型圈工业级偷思维链的黑产老底全掀了。 很多人一直好奇,为什么海外大厂砸几十亿美金苦练的顶级推理能力,一些团队只要花几分之一的时间和成本就能迅速追平。Anthropic 这次拿出的数据极其吓人:他们发现有大量黑产和机构控制着几十万个虚假账号,通过代理网络疯狂给 Claude 发送数百万次请求,核心目标根本不是偷答案,而是偷 Claude 在输出前的完整思维链。 以 SWE-bench Verified 编程基准为例,用完整推理转录去训小模型,得分能直接冲到 80.4%,而只拿精简答案去训只有 71.8%,这十个点的差距就是大模型最值钱的核心资产。智谱在开发 GLM-5.3 时尝试蒸馏 Claude,发现防护后转去偷更旧的模型;月之暗面的 Kimi 也曾把请求秘密转发给 Claude,其中包括与中国人民解放军有关联用户分析特定人员监控录像的请求。 为了防住这种工业级抽血,Anthropic 这次直接上了三套极其绝情的硬手段: 一是锁死推理上下文,新 API 账号彻底禁止篡改对话历史,把思维链只留给本机构; 二是把防蒸馏的安全分类器直接拉到了防生物武器的同等级别,误伤率低于千分之一; 三是把被拦截的恶意请求照样扣费,并在几小时内封掉了几万个洗白账号。 这一套组合拳打下来,官方统计直接把被偷走的数据量砍掉了 90% 到 99%,为此 Anthropic 宁可主动拒掉数万亿 Token 的真金白银收入。 说白了,以前大模型赛道表面拼的是参数和跑分,暗地里拼的是谁能更隐蔽地把前沿大模型当免费老师来抽血。当思维链的输血管道被巨头彻底焊死,真正拼底层原生内功的淘汰赛也许才刚刚开始。
曝光 50098 · 评论 50 · 点赞 158 · 书签 63
查看原帖Anthropic 花了大半年指责中国大模型偷技术,结果 David Sacks 今天给它上了一课: 保护 Claude 是你自己的生意,别让整个开源生态陪葬。 昨天 Anthropic 宣布,新的反蒸馏措施让 Claude 被提取的推理数据减少了约 90%–99%。Sacks 随即发帖祝贺,顺便翻出了几个月前的争论。 当时华盛顿有人试图以知识产权为理由限制开放权重模型,英伟达、微软、Meta 等 50 家公司联名反对,黄仁勋甚至为此发出了自己在 X 上的第一条帖子。 Sacks 当时就认为,保护模型应该是企业自己的责任。如果政府替闭源公司限制竞争,反而会让它们失去改进技术的动力。 过去大半年,Anthropic 一直在试图把针对中国模型的蒸馏指控上升到国家安全层面。问题是,模型蒸馏本身就是一项广泛使用的训练技术。大规模盗用账号、绕过访问限制当然可以被追究,但一家美国公司的 API 使用协议,凭什么变成决定全球 AI 技术如何发展的规则? 更有意思的是,美国内部其实已经出现了非常明显的利益分裂。 Anthropic 希望维持高利润的闭源 API 生意,但英伟达要卖芯片,云厂商要卖算力,创业公司需要便宜好用的模型。中国开源模型越强,这些美国公司的利益就越难与 Anthropic 保持一致。 前两天《华盛顿邮报》还专门报道,DoorDash、Airbnb 等美国企业已经在使用中国模型。美国政府可以把中国 AI 描绘成威胁,但美国企业自己正在享受中国开源带来的成本优势。 这恰恰是中国 AI 最值得利用的现实。 中国开源模型真正的筹码,是让越来越多美国企业发现,封杀中国模型也会伤害自己的利益。 Anthropic 可以决定谁能使用 Claude,却不应该有权决定整个 AI 行业该如何学习和进步。
曝光 47739 · 评论 21 · 点赞 88 · 书签 45
查看原帖Anthropic 这场蒸馏攻防战,其实很多人还没意识到这件事背后最残酷的行业分水岭,Anthropic 宁可少赚几万亿 Token 也要焊死思维链后门,这绝不是简单的安全公关,我理解更像是一场对蒸馏追赶者的降维阻击战, 上午很热闹,大家都在看大厂撕破脸的点名热闹,但我更在意的是,当思维链抽血通道被巨头彻底封死之后,整个 AI 生态接下来会发生什么, 过去两年行业里心照不宣的秘密,就是海外前沿大厂在前面拿几十亿美金去赌未知的架构路径,后面大量团队靠工业级蒸馏低成本复刻 90% 的能力,把顶级推理打成白菜价。 但现在这趟免费便车被巨头彻底掀翻了, Anthropic 宁可拒掉数万亿 Token 的真金白银,也要把防蒸馏拉到生物武器级别,这绝不仅是一次安全防御,而是一场极其精密的商业护城河保卫战。 这意味着接下来三个极其现实的连锁反应: 一是纯靠套壳蒸馏、没有底层原生预训练能力的团队,接下来会被光速打回原形, 二是开源小模型追赶旗舰能力的迭代节奏大概率会明显失速,低成本抽血红利期正在加速关闭, 三是行业真正的分水岭,不再是看谁跑分能刷到 90%,而是看脱离了现成思维链之后,你还有没有能力从零探索下一代未知架构。 说白了偷家式创新的黄金时代已经彻底终结了, 当师傅把门窗全部焊死,接下来的牌桌上,拼的全是硬碰硬的真内功。
曝光 24983 · 评论 43 · 点赞 135 · 书签 39
查看原帖A➗又开始了每月一篇文章的蒸馏指控了。 这次又点名 GLM、Kimi,还说自己挡住了 90%~99% 的蒸馏攻击,顺手封了几万个账号。我就纳闷了,普通用户天天被误封,A➗倒好,一下不处理,直接把封号数量拿出来炫耀了。 我就想说一句: Anthropic 蒸馏其他模型的时候,叫正常模型训练。 其他人蒸馏时,什么情况下就成了国家安全威胁? 这个标准到底是谁定的?
曝光 20195 · 评论 0 · 点赞 3 · 书签 3
查看原帖