Anthropic开源了一个工具，用数学证明到底是哪个模型回答了你。简直是中转杀手！ Anthropic 开源了一个研究原型 Flash Probe，让超大… · @lemomo_ai · TwKit

@lemomo_ai

Anthropic开源了一个工具，用数学证明到底是哪个模型回答了你。简直是中转杀手！ Anthropic 开源了一个研究原型 Flash Probe，让超大模型可以用密码来验证。服务提供方把模型封存成一个指纹，之后每一条回复都附带一份证明，证明这条回复确实出自于那个模型。整个过程不会泄露模型的权重。 一共有三步： 1. 承诺：提供方公开一个 commitment ID，它会绑定一组权重，权重本身保密 2. 证明：提供方用 GPU 为每条回复生成一份证明 3. 验证：任何人在普通的 GPU 上就能检查这份证明，不需要权重 非常有意思的设计是，这个项目是给 coding agent 来跑的。也就是说你直接把仓库给 Claude Code 之类的工具，它就会按照说明去构建验证器，能跑通 这件事情的意义： 1. 对于用户来讲：可以确认路由服务器或中转站有没有偷换模型。 2. 对于测评机构来说：可以确认自己测的模型，就是线上跑的那个模型。 3. 对于安全机构来讲：服务器被入侵、输入被篡改时，伪造不出来有效的证明，任何篡改都会被发现。 4. 对于一些监管机构来讲：可以检查提供方是否运行在经过批准的模型上 但是这里面有一个问题：这个模型离实际生产可用还有不小的距离。 比如说： • 证明成本约为正常推理的 70 到 90 倍 GPU 时间 • 上下文只支持 1024 token • 只能覆盖贪婪解码，带采样的输出不在保证范围内 • 仓库也被标注为研究成品，并不是一个可迭代、可开发、可维护的项目 但我觉得很重要的是方向：未来不仅每条回复可能会带水印，同时也会附带一张出生证明。 https://github.com/anthropics/FlashProve

曝光 200 · 评论 1 · 点赞 5 · 书签 1