DeepSeek 开源 DeepInfer,推理成本与算力支持成焦点 · 话题榜 · TwKit
AI科技 · 26 帖 · 22 位作者 · 曝光 1640160
DeepSeek 开源生产级推理框架 DeepInfer 的消息引发集中讨论。推文重点涉及 Apache 2.0 许可、性能与收入数据、硬件支持,以及开源对推理服务成本和行业竞争的影响。
- 介绍 DeepInfer 的开源许可、支持的硬件和适用范围
- 解释推理框架如何影响模型服务成本、吞吐量与价格
- 探讨开源是否会加剧模型厂商的低价竞争,以及谁可能受益
- 比较华为昇腾与英伟达硬件在部署该框架时的条件
@modaleap
DeepSeek开源非常有助于增加就业😆 以前这么牛的Infra只能大厂招得起,月薪近十万,中小厂完全没法招Infra工程师 现在中小厂也能花一两万请Infra工程师用现成的框架了,预期能创造数倍于大厂的就业
查看原帖@loveAIwang
前两天DeepSeek还天天被拉去做亲子鉴定😤 今天DeepSeek:别验了,DNA我直接公开 推理框架DeepInfer整个开源,Apache 2.0,自己拿去看🐳 OpenAI:…… Anthropic:……
查看原帖@Vincent_AINotes
DeepSeek 真是站着把钱挣了! 今天 DeepSeek 正式开源 DeepInfer,官方披露单集群吞吐量达到每天 155 万亿 Tokens,折合每卡每小时 38 美元收入。 之前梁圣说 10 个月回本,现在看来还真保守了。 按美国公开市场的显卡价格粗算,两个月就能收回硬件成本。就算按国内黑市 350 万一套卡的价格算,估计四个月也能回本。 当然,这还没扣除电费、运维等成本。 怪不得美国那些云厂商顶着 10% 的利率也要借钱建数据中心,这生意看着是真赚钱啊!
查看原帖@qinbafrank
梁文锋格局怎么这么大?不仅模型开源了,现在又把推理框架也开源了,而且就是deepseek V4.1-Flash 现在正在用的核心推理框架。
查看原帖@MinLiBuilds
😭 梁文峰我真的哭死!DeepSeek 这次开源推理框架,是一场蓄谋已久的阳谋! 美国封芯片,梁子就拼算法。美国封产品,梁子就开源基础设施。 把 2026 年的时间线连起来看,太有戏剧性了。 🔥 2 月,梁子先动手。 路透社爆料,DeepSeek 发布 V4 前,竟然没有提前把模型交给 NVIDIA 和 AMD 优化。 反而让华为等国产芯片厂商提前拿到模型,抢先适配! 🔥 4 月,DeepSeek V4 正式登场。 百万 Token 上下文,模型开源,继续把大模型的使用成本往下打。 🔥 7 月,美国开始下狠手。 美国国土安全部在 7 月 24 日签发禁令,要求联邦民事机构: ① 禁止采购 DeepSeek 相关产品和服务。 ② 从政府 IT 系统中清除 DeepSeek。 ③ 连基于 DeepSeek 实现开发的第三方产品和服务,也纳入清除范围! 第三条才是真的狠!要把梁子往死里整。 🔥 9 月,梁子继续降成本。 发布 V4.1 Flash,552B 参数的 MoE 模型,输入只激活 8B,输出激活 16B。 让大模型用更少的计算资源,干更多的活。 🔥 10 月 17 日,模型继续升级。 V4.1 Flash-1017 发布,编程、Agent 能力继续提升。 🔥🚨10 月 20 日,高潮来了! 美国正式公开刊登对 DeepSeek 的清除与采购禁令。 同一天,梁子直接把自家生产级推理框架 DeepInfer 开源了! 更有意思的是,官方只列出两类支持的硬件: ① NVIDIA SM100:B200 / GB200 ② 华为 Ascend 950:国产昇腾 NPU 这两类硬件跟我们普通屌丝基本没关系,瞄准的就是拥有大规模算力的数据中心。 DeepInfer 里面有什么? MoE 专家并行、动态负载均衡、推测解码、异步调度…… 都是 DeepSeek 为了让大模型跑得更快、更省算力,长期打磨的推理技术。 这才是我理解的梁子的阳谋! 你可以限制先进 GPU 出口,我就继续研究怎么用更少的算力跑出更强的模型。 你可以不让美国联邦机构采购 DeepSeek,我就把自己的推理技术交给全球开源社区。 你有 NVIDIA,我也支持 NVIDIA。 中国有华为,我同样支持华为。 未来更多芯片厂商想加入?那就一起研究、一起适配! 最绝的是,梁子选择让 NVIDIA 和华为出现在同一份开源项目里。 以前,大模型要努力适配芯片。 未来,芯片厂商也可能为了争取 DeepSeek 的推理负载,主动来适配它的技术生态。 美国的禁令可以影响政府采购,却无法让已经开放的技术知识消失。 这场仗,梁子不是要证明自己不需要 NVIDIA。 而是想证明,中国的大模型可以有不止一条路。 这才是真正的技术反抗。 不是骂街,不是喊口号。 是把代码写出来,把另一条路铺出来。 DeepInfer: https://github.com/deepseek-ai/DeepInfer 美国禁令: https://www.federalregister.gov/d/2026-21447 https://x.com/MaxForAI/status/2087596692497719654/video/1
查看原帖@xiangning0
Deepseek把内部的推理框架也开源了 糟了,A÷又有东西学了, 学完进化以后,又要反手出一张报告说Deepseek蒸馏了 真有人信Deepseek完全靠蒸馏走到这一步的, 但凡看过他们的开源内容和论文也说不出这种话....
查看原帖@laopai1990
DeepSeek 这波反击,真有点梁文锋的风格!!🐳 前几天 DeepSeek V4.1 Flash 1017 刚更新,模型指纹就被检测成 GPT-6 Astra,然后整个 X 上都说, “又蒸馏了xx吧?” “DeepSeek 到底抄了多少?” 从 R1 到 V4.1,DeepSeek 每次更新,都有人急着给DeepSeek它找个美国爹, 到今天,DeepSeek 一句话没解释,直接把 DeepInfer 推理框架开源了, Apache 2.0,推理内核、并行调度、解码优化,连英伟达和华为昇腾都支持, 网友还在给模型做亲子鉴定,人家已经把DNA 报告放 GitHub 了, 研究去吧,GitHub 我都扔评论区了,记得回来聊几句😏
查看原帖@chasen_liao
Ok啊,DeepSeek 也是把自己全家都开源了
查看原帖@oran_ge
DeepSeek 把自己低价的秘密武器推理框架给全部开源了 这将推动所有模型大降价 善莫大焉 大鲸鱼是人类之光
查看原帖@NFT_Chen
🚨重磅!DeepSeek 正式开源生产级推理引擎 DeepInfer!梁圣太伟大了!让AI惠及每一个普通人! 梁文峰放大招,把自家跑 V4.1-Flash 线上服务的核心推理框架彻底开源Apache-2.0。 核心要点 🔹就是官方在用的引擎:高吞吐、低延迟大规模服务能力直接开源 🔹双平台支持:英伟达 SM100 + 华为昇腾 950 🔹关键能力:优化内核、MoE 专家并行、DSpark 推测解码、SWA 重放、零开销调度、结构化输出 🔹配套开源:deepseek-recipe(编解码组件,与官方 API 逻辑对齐) 🔹目标:大幅降低算力与电力成本,让 AI 更普惠 DeepInfer:https://github.com/deepseek-ai/DeepInfer deepseek-recipe:https://github.com/deepseek-ai/deepseek-recipe 模型开源已是基操,现在连推理引擎也开了,格局直接拉满。 #DeepSeek #DeepInfer #开源 #AI推理 #梁文峰 #普惠AI #梁圣 #推理引擎 #V41flash1017
查看原帖@Kmno4Z62942
Deepseek 开源的最新的 大规模云服务推理框架 DeepInfer。技术报告中写到:目前单一集群的服务吞吐是 155 万亿 Tokens/天,整体收入是每卡每小时 38 美金(按谷价)。 梁叔叔还是太实诚了,连收入都开源!原文链接在此 https://zhuanlan.zhihu.com/p/2095560295930508953
查看原帖@CyanCloud77
唉,官 Key 一点不便宜,DeepSeek 1017 发布 4 天 烧了 24 亿Token,平均每天 30+ 软妹币 😭😭 除了OpenCode Go & Goat Plan 有不降智又快的订阅么?
查看原帖@jackyang886
告诉我deepseek还有哪些核心技术没开源的? @grok 请如实回答,不要有所保留
查看原帖@xiangxiang103
卧槽,全体起立!748B 的 DeepSeek V4.1 Flash 1017,128G 内存的 Mac 就能本地跑了! Unsloth 刚放出量化版,顺手讲讲「量化」是啥: 模型就是几千亿个数字,量化就是每个数字少存几位,像无损音乐转 MP3,体积砍一半,音质掉一点 🔥按内存对号入座 1. 128G:1-bit(IQ1_S),233GB,和原版选同一个词的比例约 85% 2. 256G:3-bit(IQ3_XXS),395GB,约 95% 3. 300G 以上:4-bit,500GB,基本无损 内存比文件小也能跑,是因为它有块 196B 的查表,能放 SSD 按需读 想本地部署的先收藏 https://unsloth.ai/docs/models/deepseek-v4.1-flash
查看原帖@GKev1n
求求 OpenAI 了,别再特么说 Deepseek 是 Astra 蒸馏来的了! 这特么可是都能跑在华为昇腾显卡上的推理引擎! 今晚 17:30 DeepSeek 开源了 DeepInfer,就是线上撑着 V4.1 Flash 的推理框架,Apache 2.0。推理框架简单说就是把模型变成 API 服务的中间层,决定一张卡能同时伺候多少人、每个 token 多贵。 README 里支持的硬件就列了两个,NVIDIA SM100(B200 这一代)和华为昇腾 950。模型能力可以接着吵,可把模型高效跑在国产卡上的这套工程,蒸馏是蒸不出来的。 求求 OpenAI 了,你要是弄个 Terra 6.1 出来,跑不过 DeepSeek ,我真不知道你脸能放哪里了😓
查看原帖@jackyang886
我有时候真怀疑: DeepSeek 是不是不想赚钱, 只想让全世界的 AI 公司重新定价? 不然这价格战打下去, 最后受伤的到底是谁?
查看原帖@tuolaji2024
DeepSeek 已经完全放弃了的 Hopper 堆栈(H100/H200)的支持,并且在新开源的推理框架中只支持 Blackwell 和华为昇腾 NPU。 这,这个操作是不是可以理解,顶级模型只能用顶级芯片? 黄仁勋不得笑开花了?ds 给他带货,以及 a 畜又能学到真本事了。
查看原帖@leo114119
Deepseek把自家的推理框架全面开源了,日均吞吐与毛利都公布了 连单卡多少钱都有,牛逼啊 梁圣直接教你搞中转站赚钱,有实力的快去搞 每小时38刀,10 个月就回本了。。 https://zhuanlan.zhihu.com/p/2095560295930508953
查看原帖@ai_funss
DeepSeek你开源技术就开源技术,你收入也开源😱😱😱 平均收入: 每小时: $38 -> 约 266 元 每天: $912 -> 约 6,384 元 每月: $27,360 -> 约 19.2 万元
查看原帖@loveAIwang
说真的,刷到DeepSeek开源推理框架那一刻,我鼻子有点酸😭😭😭 别人家的门越关越紧,防蒸馏、防抄、防这防那 DeepSeek倒好,他把论文给你,模型给你,现在连自己线上吃饭的家伙都直接掏出来了😱😱😭! 闭源模型我用了这么久,钱也没少花,从来没有哪家这么对过我们这些写代码的 换成OpenAI、Anthropic、Google,打死我都不信他们会这么干 DeepSeek,这波我是真的爱了🐳❤️
查看原帖