DeepInfer开源：推理经济性、低价策略与行业冲击 · 话题榜 · TwKit

@Dicklong1999

Deepseek梁文锋太坏了，想把Anthropic的泡沫戳破，难怪达里奥今天立刻发推撕逼。 DeepSeek模版：单集群每天处理 155 万亿 Token，平均每张卡每小时收入 38 美元，还是按谷价算的。 对准备上市的模型公司是最难受的：投资人如果按未来收入给估值，Anthropic就没有史上最大IPO了

@Vincent_AINotes

DeepSeek 这个公告也是没谁了😂 官方在 V4.1 Flash 部署文档里特意提醒：跨数据中心部署可能会遇到光纤被施工挖断的情况。 看到这句我都怀疑，上次宕机该不会真是光纤被挖断了吧？

@passluo

梁子的小心机： 告诉你老子 128 台 B300 的超大集群单卡每小时印钞 38 美金 把大部分代码都开源给你，但是最值钱的部分不开源 让你们看得到吃不着急死你们 🐶

@MaxForAI

我觉得大多数人可能都没意识到，昨天 @deepseek_ai 开源DeepInfer，究竟是一件多么牛逼的事情。 昨天DeepSeek直接把支撑自己大规模生产服务的核心推理框架DeepInfer开源了。 我已经数不清这是DeepSeek第几次把压箱底的东西放到GitHub上了。 从模型权重，到FlashMLA、DeepGEMM、DeepEP，再到TileLang，现在连自己的推理框架都拿出来了。 而且这次开源的东西，含金量真的很高（严肃脸）。 分布式推理、MoE并行、推测解码、异步调度、SWA Bounded Replay、结构化输出，整个推理引擎最核心的工程能力基本都在里面。 甚至已经支持英伟达SM100和华为昇腾950，采用Apache 2.0协议开源。 我觉得可能只有真正折腾过Infra，特别是用过非英伟达GPU的人，才能理解这件事情到底有多么了不起。 如果你实际用过昇腾的卡，或者折腾过AMD、Intel的GPU，你应该很熟悉那种痛苦。 理论算力看着很漂亮，真把模型放上去跑，各种莫名其妙的问题就来了。 任务跑着跑着突然hang住，Kernel出现一些完全无法理解的行为，模型莫名其妙输出一些奇怪的东西。 有时候你折腾几天才发现，问题出在底层的算子实现上，甚至官方提供的Kernel性能还不如自己让Agent写的。 很多人可能真的低估了，把一个几千亿参数的模型稳定、高效、低成本地跑起来，究竟需要多少工程积累。 你需要解决算子优化、显存管理、通信开销、负载均衡、专家并行、推理调度，还有各种硬件和软件之间奇奇怪怪的兼容性问题。 每一项单独拿出来，都够养活一家公司。 而且这套东西特别依赖长期积累，你在生产环境中遇到的那些千奇百怪的问题，别人可能连复现的机会都没有。 这些经验最后会一点点沉淀到代码里，变成实实在在的技术壁垒。 所以你现在再回过头来看，为什么DeepSeek的API价格能够做到那么低，为什么它能以这么低的成本支撑如此庞大的推理需求？ 背后就是这群工程师，长年累月地在Infra上投入大量的人力、算力和精力，把每一点性能一点点抠出来。 至少从我接触过的一些国产算力生态来看，DeepSeek在推理系统上的工程积累，确实已经远远超过很多硬件厂商官方软件栈给我的体验。 而且这件事情的护城河非常深。 因为你就算拿到了同样的GPU，跑同样的模型，如果推理框架的效率差一截，成本就可能差出一大截。 这些差距最后都会变成真金白银。 DeepSeek最让我震撼的地方就在这里。 他们明明可以把这些技术藏起来，继续维持自己的成本优势，结果他们选择把这些年积累下来的核心推理技术开源给全世界。 虽然这次开源的还是离线推理版本，完整线上服务需要的KV Cache管理和负载均衡组件尚未全部公开，而且目前支持的硬件也有限。 但这已经相当了不起了。 这就像你花了几年时间，掌握了一门可以让自己持续赚很多钱的独门手艺，已经靠它建立起了巨大的竞争优势。 然后有一天，你突然决定把这门手艺最值钱的部分写成一本教材，免费发给全世界。 甚至允许其他人拿去改造、商用，跟你自己竞争。 我操，这真的是功德无量的事情。 说实话，我现在越来越佩服梁文锋了。 这些年国内大模型行业一直在讨论追赶、竞争、商业化，大家忙着发榜单、卷价格、抢用户。 而DeepSeek在持续做前沿研究、训练新模型的同时，还在不断把自己积累的技术贡献给整个开源社区。 他们自己也受益于vLLM、SGLang等开源项目，现在又把大规模生产环境里打磨出来的东西贡献回去。 这才是我特别欣赏的地方。 因为在一个如此激烈、所有人都恨不得把自己的技术壁垒藏得严严实实的行业里，能坚持做这样的事情，真的需要很大的勇气和理想主义。 尤其是在今天，国产算力生态还有大量基础设施需要完善，开发者还在为那些莫名其妙的bug、性能问题折腾的时候。 未来一定会有很多开发者、很多公司，站在他们今天开源的这些代码上，继续往前走。 我觉得中国AI行业能有梁文锋这样的人，有DeepSeek这样一家公司，真的是一件很幸运的事情。 国模不生梁圣，万古如长夜。 梁圣牛逼，DeepSeek牛逼。

@loveAIwang

Logan说Argon上线三天跑了25万亿token😳 DeepSeek知乎上写的是，一个集群一天155万亿😱😱😱 我拿起计算器按了一下，又默默放下了🤣

@MapleLeafCap

看了一下DeepInfer的数。我觉得吧，前几天大家转载的那个SiliconData Index的价格，未来一年估计还得不回头地跌个95%+，具体什么时候影响到GPU Rental rate蛮难预测的。 这个价格体系下，梁圣买张卡估计100天就回本了。一旦有朝一日token价格真的暴跌到影响rental rate，所有股价肯定已经跌了一大轮。 给大家几个数，所有的数都是$ / 1 mm token，基本上1mm token 95% cached = 100-150页的薄书. - Dylan一直在说Jane Street的变现价是$100-200 USD / 1 mm token - Opus 5.5 / GPT Astra 的价格在deepinfer的体系下大概是1-2 USD / 1 mm token，比标价便宜个80-95% - 变态的来了，Deepseek 4.1 Flash off-peak的价格在这是1.5美分，又比SOTA便宜个90%。 - 按照一般的大B300 Cluster，根据deepinfer的计算，一个GPU大概能每小时产出2.7 Bn token, 成本换算过来大概是0.25美分 / 1 mm token，这已经比我想象中便宜很多很多了。之前算过我记得是15美分 / 1 mm token，不过没有计算cache。这个level的成本大概率是大机房+高使用率+超高存储时间，一般机房估计都做不到这个theoratical. - 这也就是大家看到的80-85%毛利 (1.5 / 0.25)。DeepSeek要是以比这个利润率稍好的功率赚钱的话，一个B300大概2-3个月回本，而不是8个月。真是无与伦比的暴利，比贩毒爽多了，自然是砸锅卖铁也要走私B300。 - 如果B300按照break even算的话，那么成本大概是0.13美分 / 1 mm token. 然后原材料其实是B300 ～600k价格的6%不到（按照产业链毛利计算）。 - 所以最后算下来马斯克如果去完全积压的话，每1mm token的最终生产成本可能是0.01美分, or 0.0001 USD。这基本上跟免费差不了太多了。 这种屠夫版的价格我不知道你怎么看，但是when you see the headline API price of Opus @ 8/40 USD input/output，我只能感觉说只要OSS + Post-train和中国模型蒸馏大法能够持续跟随 + 没有新的breakthrough，token 价格未来一段时间应该是以断崖式的下跌。至于什么时候触碰到rental rate, maybe someone smart can tell me.

@MaxForAI

笑死我了，才发现DeepSeek在官方部署DeepInfer文档里，专门提醒了一件事：小心光纤被施工挖断🤣 原文讲到在V4.1 Flash的部署问答里，DeepSeek解释，由于KV缓存被大幅压缩，处理输入的Prefill和生成输出的Decode，在技术上可以分开放到不同的数据中心，建议每8张GPU预留约400Gbps的互联带宽。 讲到可靠性的时候，文档非常认真地举了个例子：数据中心之间的光纤容易被施工挖断。 后面还补充了一句，DeepSeek自己的推理节点，就部署在不同但相邻的数据中心里。 合理怀疑是不是之前DeepSeek遇到过这样的情况🤔

@xulijian1994

我觉得 DeepSeek 坚持开源和低价，主要有两个原因。 一是梁本身就是个理想主义者，确实有自己的技术追求，愿意推动技术开放。 二是他绝不是只有一腔热血，这其实也是一种非常高明的商业策略。 你可以理解成，别人花几十亿美元打广告，DeepSeek 直接把钱花在技术上，再通过开源和低价，让全球开发者主动帮它传播、测试，甚至帮它完善生态。 最厉害的地方在于，别人花钱买用户，DeepSeek 让用户免费帮自己打广告。用得越多，传播越广，品牌越强，最后连竞争对手都不得不研究它。 所以梁真正聪明的地方，是把原本需要花钱购买的市场影响力，变成了技术开放带来的自然结果。 别人烧钱买流量，他用技术换流量，还顺手建立了品牌护城河。

@LinearUncle

如何理解deepseek 开源内部的推理引擎DeepInfer? 我给你们讲一个“一只平凡的小猪”故事。 2022 年，幻化量方宣布一共给慈善机构捐款 3.6 亿元，其中某员工自称“一只平凡的小猪”以个人名义捐赠 1.38 亿元。 这只猪就是我们后来熟知的梁圣：梁文峰，他如此谦逊，如此有大爱，做AI绝对不仅仅只是为了赚钱，虽然他的公司不招聘 35 岁工程师（黑点）。

@ivanalog_com

今天Deepinfer 开源，用令人瞠目结舌的经济性逆转了半导体和云的颓势。 这个贴讨论一下Deepinfer的经济性吧 Deepseek公布了每小时B200可以产出38$的token（波谷定价）。 短期看，用现在B200租价6$美元算，这是85%的毛利率。 换句话说，如果一个商家，能够满足于一般性的15% IRR，有能力销售Token，能依照Deepseek的Recipe租用GPU去大规模部署，那么它可以打1.5折去销售Deepseek Token。 还记得最近有很多服务商，Opencode Go, Command Code, 腾讯，都有类似于10美元使用60-80美元DS token的订阅吗？ 这从侧面证明Deepinfer的架构，是可复制，可扩散的技术优势，而且正在成为市场主流。

@LotusDecoder

看了 deepseek 新开源的 deepinfer ， 才知道以前白替厂家担心了， opencode go ， 10美元订阅买80美元 deepseek-V4.1-flash 的 api 额度。 原来他们这样还有利润。 claude 和 chatgpt （2609改版前）订阅200美元， 用出 8000美元 api 额度。 可能也还是赚钱的。

@xianzhizhou

一个集群顶全国算力。 “推理是小钱，我要的是AGI。” 你真的懂 DeepSeek 实力和梁文锋的愿景吗？ DeepSeek，今天开源了推理框架DeepInfer，顺手披露了一组数据：V4.1 Flash单集群日吞吐155万亿Token，每卡每小时收入38美金。 前几天DeepSeek崩了一次，全网大模型跟着拥塞。全国日均AI调用量140万亿Token。DeepSeek一个集群就能吞155万亿。比全国加起来还多。 B300租赁均价7到10美金一小时，DeepSeek跑出38美金。利润率80%以上。 这么赚钱的东西，为什么开源？ 梁文锋，DeepSeek创始人，幻方量化老板。福布斯最新估值360亿美金，个人财富已经超过Anthropic联合创始人Dario Amodei和OpenAI联合创始人Greg Brockman。搞DeepSeek之前靠量化就已经赚麻了。 推理是小钱。开源出去让大家自己跑，别占他集群。 他要的是AGI。

@xKaka1456

DeepSeek 为啥要把价格卷这么低 梁文锋不想赚钱吗 同行会不会恨他？ 毕竟断人财路如杀人父母