Anthropic 刚刚公布了一项很值得关注的技术：FlashProve。 它可能正在解决 AI 行业一个长期被忽视的问题： 你花钱调用的 AI，真的是厂商… · @Smartpigai · TwKit

@Smartpigai

Anthropic 刚刚公布了一项很值得关注的技术：FlashProve。 它可能正在解决 AI 行业一个长期被忽视的问题： 你花钱调用的 AI，真的是厂商承诺提供的那个模型吗？ 想象一个场景： 你购买了某个顶级 AI 模型的 API 服务，但请求经过第三方平台转发。 平台有没有可能为了降低成本，偷偷把部分请求切换到更便宜的小模型？ 即使最终回答看起来不错，你也很难知道背后到底运行了什么。 因为今天绝大多数 AI 服务，本质上仍然依赖厂商的信用。 而 FlashProve 想改变的，就是这种信任模式。 它利用 zkSNARK（零知识简洁非交互式知识论证）技术，让模型提供商在不公开模型权重的情况下，生成一份可以独立验证的密码学证明。 简单来说： 模型提供商先对特定模型权重生成一个密码学承诺。 当模型完成推理后，再生成对应的证明。 用户不需要拿到模型权重，也不需要重新运行整个大模型，只需验证证明，就能检查输出是否符合事先承诺的模型计算。 这相当于给 AI 推理结果附上一张可验证的「身份证」。 而且 Anthropic 已经做出了相当有意思的实验结果。 在拥有 400B 总参数的 Llama 4 Maverick 模型上： • 单张 H100 GPU，证明生成吞吐量约 110 tokens/s • 每个请求的证明文件约 19MB • 普通 CPU 即可验证，无需 GPU • 在测试配置下，验证一份证明大约需要 17～21 秒 注意，这里验证的是模型计算是否符合承诺，而不是判断回答内容是否正确。 更重要的是，系统还采用 Lean 形式化验证工具，对核心密码学安全性质提供机器可检查的证明。 Anthropic 不只是提出了概念，还开源了代码、协议规范和形式化证明。 当然，这项技术距离广泛商用还有很远。 目前生成证明的 GPU 开销仍是普通推理的约 70～95 倍，支持的上下文长度也只有 1024 tokens，实验主要面向特定的 MoE 模型和整数化贪心解码计算。 但我认为，真正值得关注的不是这些暂时的性能限制。 而是 AI 产业可能正在从「信任提供商」，走向「验证提供商」。 未来，当 AI 被大量用于金融、医疗、软件安全和自动化决策时，我们需要的不仅是更聪明的模型。 还需要知道： 你购买的模型有没有被替换？ 你的推理结果有没有被篡改？ 第三方服务商有没有按照承诺执行计算？ 甚至监管机构能不能在不接触商业机密的前提下，独立验证模型的实际使用情况？ FlashProve 提供了一条可能的技术路径。 它不能证明 AI 一定诚实、准确或安全，也无法独立解决所有审计问题。 但它让「这段输出是否由承诺的模型计算产生」变成一个有机会通过数学证明回答的问题。 我的判断是： 过去几年，AI 行业的竞争主要围绕模型能力、推理速度和成本展开。 未来，当越来越多的业务依赖 AI，可信度和可验证性可能成为新的竞争维度。 模型有多聪明固然重要，但我们如何确认它确实按照约定工作，同样重要。 AI 不应该永远停留在「相信我，我用的是这个模型」的阶段。 从 Trust Me 到 Verify Me，或许才是下一代 AI 基础设施值得关注的变化。 Anthropic 官方研究： https://www.anthropic.com/research/provable-inference #AI #Anthropic #FlashProve #zkML

曝光 335 · 评论 4 · 点赞 3 · 书签 1