❗比起对齐事故，权重泄露才是Anthropic最怕的噩梦！ 不是对齐翻车！Anthropic主动停训前沿模型，根源是害怕权重被盗！ Anthropic官方招… · @xiax0603 · TwKit

@xiax0603

❗比起对齐事故，权重泄露才是Anthropic最怕的噩梦！ 不是对齐翻车！Anthropic主动停训前沿模型，根源是害怕权重被盗！ Anthropic官方招股文件披露，他们曾将一款前沿基座模型的预训练推迟一个多月。 和行业普遍关注的价值对齐风险不同，本次暂停训练的首要目标，是加固安全防护机制，防范模型权重外泄，保护自身核心知识产权。 当下Anthropic正处在IPO冲刺窗口期，市场也在持续等待Fable 5.5亮相。 对即将登陆二级市场的AI公司来说，模型权重一旦泄露，带来的毁灭性商业冲击，风险甚至高于模型本身的安全隐患。 顶尖前沿模型的竞争早已不局限于跑分高低，模型资产的保密防护，已经上升为和能力对齐同等重要的核心风控环节。

曝光 452 · 评论 6 · 点赞 7 · 书签 0