DeepSeek 开源推理框架 DeepInfer · 话题榜 · TwKit

@modaleap

DeepSeek开源非常有助于增加就业😆 以前这么牛的Infra只能大厂招得起，月薪近十万，中小厂完全没法招Infra工程师 现在中小厂也能花一两万请Infra工程师用现成的框架了，预期能创造数倍于大厂的就业

@loveAIwang

前两天DeepSeek还天天被拉去做亲子鉴定😤 今天DeepSeek：别验了，DNA我直接公开 推理框架DeepInfer整个开源，Apache 2.0，自己拿去看🐳 OpenAI：…… Anthropic：……

@Vincent_AINotes

DeepSeek 真是站着把钱挣了！ 今天 DeepSeek 正式开源 DeepInfer，官方披露单集群吞吐量达到每天 155 万亿 Tokens，折合每卡每小时 38 美元收入。 之前梁圣说 10 个月回本，现在看来还真保守了。 按美国公开市场的显卡价格粗算，两个月就能收回硬件成本。就算按国内黑市 350 万一套卡的价格算，估计四个月也能回本。 当然，这还没扣除电费、运维等成本。 怪不得美国那些云厂商顶着 10% 的利率也要借钱建数据中心，这生意看着是真赚钱啊！

@xiangning0

Deepseek把内部的推理框架也开源了 糟了，A÷又有东西学了， 学完进化以后，又要反手出一张报告说Deepseek蒸馏了 真有人信Deepseek完全靠蒸馏走到这一步的， 但凡看过他们的开源内容和论文也说不出这种话....

@qinbafrank

梁文锋格局怎么这么大？不仅模型开源了，现在又把推理框架也开源了，而且就是deepseek V4.1-Flash 现在正在用的核心推理框架。

@chasen_liao

Ok啊，DeepSeek 也是把自己全家都开源了

@MinLiBuilds

😭 梁文峰我真的哭死！DeepSeek 这次开源推理框架，是一场蓄谋已久的阳谋！ 美国封芯片，梁子就拼算法。美国封产品，梁子就开源基础设施。 把 2026 年的时间线连起来看，太有戏剧性了。 🔥 2 月，梁子先动手。 路透社爆料，DeepSeek 发布 V4 前，竟然没有提前把模型交给 NVIDIA 和 AMD 优化。 反而让华为等国产芯片厂商提前拿到模型，抢先适配！ 🔥 4 月，DeepSeek V4 正式登场。 百万 Token 上下文，模型开源，继续把大模型的使用成本往下打。 🔥 7 月，美国开始下狠手。 美国国土安全部在 7 月 24 日签发禁令，要求联邦民事机构： ① 禁止采购 DeepSeek 相关产品和服务。 ② 从政府 IT 系统中清除 DeepSeek。 ③ 连基于 DeepSeek 实现开发的第三方产品和服务，也纳入清除范围！ 第三条才是真的狠！要把梁子往死里整。 🔥 9 月，梁子继续降成本。 发布 V4.1 Flash，552B 参数的 MoE 模型，输入只激活 8B，输出激活 16B。 让大模型用更少的计算资源，干更多的活。 🔥 10 月 17 日，模型继续升级。 V4.1 Flash-1017 发布，编程、Agent 能力继续提升。 🔥🚨10 月 20 日，高潮来了！ 美国正式公开刊登对 DeepSeek 的清除与采购禁令。 同一天，梁子直接把自家生产级推理框架 DeepInfer 开源了！ 更有意思的是，官方只列出两类支持的硬件： ① NVIDIA SM100：B200 / GB200 ② 华为 Ascend 950：国产昇腾 NPU 这两类硬件跟我们普通屌丝基本没关系，瞄准的就是拥有大规模算力的数据中心。 DeepInfer 里面有什么？ MoE 专家并行、动态负载均衡、推测解码、异步调度…… 都是 DeepSeek 为了让大模型跑得更快、更省算力，长期打磨的推理技术。 这才是我理解的梁子的阳谋！ 你可以限制先进 GPU 出口，我就继续研究怎么用更少的算力跑出更强的模型。 你可以不让美国联邦机构采购 DeepSeek，我就把自己的推理技术交给全球开源社区。 你有 NVIDIA，我也支持 NVIDIA。 中国有华为，我同样支持华为。 未来更多芯片厂商想加入？那就一起研究、一起适配！ 最绝的是，梁子选择让 NVIDIA 和华为出现在同一份开源项目里。 以前，大模型要努力适配芯片。 未来，芯片厂商也可能为了争取 DeepSeek 的推理负载，主动来适配它的技术生态。 美国的禁令可以影响政府采购，却无法让已经开放的技术知识消失。 这场仗，梁子不是要证明自己不需要 NVIDIA。 而是想证明，中国的大模型可以有不止一条路。 这才是真正的技术反抗。 不是骂街，不是喊口号。 是把代码写出来，把另一条路铺出来。 DeepInfer： https://github.com/deepseek-ai/DeepInfer 美国禁令： https://www.federalregister.gov/d/2026-21447 https://x.com/MaxForAI/status/2087596692497719654/video/1

@NFT_Chen

🚨重磅！DeepSeek 正式开源生产级推理引擎 DeepInfer！梁圣太伟大了！让AI惠及每一个普通人！ 梁文峰放大招，把自家跑 V4.1-Flash 线上服务的核心推理框架彻底开源Apache-2.0。 核心要点 🔹就是官方在用的引擎：高吞吐、低延迟大规模服务能力直接开源 🔹双平台支持：英伟达 SM100 + 华为昇腾 950 🔹关键能力：优化内核、MoE 专家并行、DSpark 推测解码、SWA 重放、零开销调度、结构化输出 🔹配套开源：deepseek-recipe（编解码组件，与官方 API 逻辑对齐） 🔹目标：大幅降低算力与电力成本，让 AI 更普惠 
DeepInfer：https://github.com/deepseek-ai/DeepInfer 
deepseek-recipe：https://github.com/deepseek-ai/deepseek-recipe 模型开源已是基操，现在连推理引擎也开了，格局直接拉满。 #DeepSeek #DeepInfer #开源 #AI推理 #梁文峰 #普惠AI #梁圣 #推理引擎 #V41flash1017

@oran_ge

DeepSeek 把自己低价的秘密武器推理框架给全部开源了 这将推动所有模型大降价 善莫大焉 大鲸鱼是人类之光

@Kmno4Z62942

Deepseek 开源的最新的 大规模云服务推理框架 DeepInfer。技术报告中写到：目前单一集群的服务吞吐是 155 万亿 Tokens/天，整体收入是每卡每小时 38 美金（按谷价）。 梁叔叔还是太实诚了，连收入都开源！原文链接在此 https://zhuanlan.zhihu.com/p/2095560295930508953

@leo114119

Deepseek把自家的推理框架全面开源了，日均吞吐与毛利都公布了 连单卡多少钱都有，牛逼啊 梁圣直接教你搞中转站赚钱，有实力的快去搞 每小时38刀，10 个月就回本了。。 https://zhuanlan.zhihu.com/p/2095560295930508953

@tuolaji2024

DeepSeek 把印钞机开源了！ 单卡谷价每小时38美元，每天可以创收，6000 人民币，每个月，15-18 万人民币，不管是华为还是英伟达，这都是印钞机，如果是华为不敢想，如果是英伟达 b100 200 更不敢想，那么高端产品得算力价值更是逆天！

@NFT_Chen

🫡全体起立！给梁圣鞠躬！让AI真正走向人民！Dario看着简直太虚伪！ DeepSeek开源内部推理框架DeepInfer，这意味着把决定AI服务成本和规模的关键中间层砸开源了。 训练让模型有能力，推理才让它真正为人服务。 梁文峰在把AI成本往下打，让更多人用得起更强的智能。 对比Anthropic的Dario：高喊安全与负责任，实际闭源高价、门槛拉满。说的是普惠，做的是精英圈。 真正的善意是把成本打下来，而不是把AI锁在高墙里。 #DeepSeek #梁文峰 #DeepInfer #AI普惠 #开源 #推理架构 #Dario #Anthropic

@AYi_AInotes

前两天全网还在猜 DeepSeek V4.1 Flash 是怎么把每百万输入压到 0.15 美元、输出压到 0.6 美元的，今天他们自己就把谜底掀了，DeepSeek用 Apache 2.0 协议把支撑自家线上服务的推理框架 DeepInfer 和 API 同款编解码组件全给开源了出来。 这次放出来是他们自己线上跑大模型用的核心底座，里面直接塞进了高性能算子、分布式推理、投机解码、SWA Bounded Replay 和结构化输出，甚至连官方承诺以后新模型的推理代码也会持续往这个仓库里合入。 以前企业在本地私有化部署开源模型，最头疼的痛点就是官方放了权重，但你自己用通用框架搭出来的服务，不仅吞吐慢、显存炸，最要命的是同一个提示词跑出来的格式和工具调用行为，总是跟官方线上 API 对不上号。 而这波开源里最容易被外行漏看、但对工程落地最值钱的宝贝，其实是那个顺手附赠的 deepseek-recipe，它把官方线上 API 正在用的 Token 编解码逻辑原封不动交了出来，直接替所有做私有化部署的团队抹平了本地环境和官方接口之间的行为温差。 这就像一家米其林餐厅，以前开源模型权重只是把菜谱免费印给你，你自己在家炒总是差一口锅气， 现在 DeepSeek 连自家后厨定制的高压猛火灶台 DeepInfer，外加主厨切配摆盘的标准化工序 deepseek-recipe 一块打包送你了。 不过我顺手去扒了一遍 GitHub 仓库的 README，发现对着全网欢呼的完全开源也得留个清醒，仓库文档写得很实在， 这次放出来的其实只是离线推理引擎，真正撑起完整线上高并发服务最核心的三块基建：KV 缓存系统、预填充与解码分离部署、多副本负载均衡这次并没有放出来；而且硬件门槛极高，目前只认英伟达最新的 Blackwell 架构 SM100 和华为昇腾 950 两款顶级算力卡，支持的模型也只限刚发的 V4.1-Flash，普通玩家手里的消费级显卡压根跑不起来。 但恰恰是 README 里这行只支持英伟达 SM100 和华为昇腾 950 的硬件限定，暴露了比框架本身更狠的产业信号，头部国产大模型已经不再等芯片厂商来缓慢适配自己，而是亲自下场写底层算子，一边吃透硅谷最顶级的 Blackwell，一边把国产昇腾 950 直接焊进第一梯队的生产标准里。 说白了，这对不同的人意味着完全不同的动作，如果你是做企业级私有化部署或国产算力适配的架构师，赶紧去把 deepseek-recipe 的编解码对齐逻辑和底层算子吃透，那里藏着省下大把调优工时的真金白银， 至于手握单卡的个人开发者，这趟就不必跟着去凑部署的热闹了，老老实实调它家几毛钱的 API 比自己搭集群划算得多。 当一家公司连自己压箱底的印钞机图纸都敢往外送时，它图谋的早就不是赚你那点差价，而是让整个行业的生产线都长成它的形状。 我把 README 里没在推文上明说的硬件门槛和缺失组件全拆在一楼了，准备拿它做私有化部署的兄弟先对照看一眼。

@Fei2411

DeepSeek 把他们的高性能、大规模推理框架DeepInfer 直接以 Apache-2.0 条款开源了🥹 这算的上是核心技术之一了吧，直接开源了，向 DeepSeek 的员工致以敬意🫡

@loveAIwang

说真的，刷到DeepSeek开源推理框架那一刻，我鼻子有点酸😭😭😭 别人家的门越关越紧，防蒸馏、防抄、防这防那 DeepSeek倒好，他把论文给你，模型给你，现在连自己线上吃饭的家伙都直接掏出来了😱😱😭！ 闭源模型我用了这么久，钱也没少花，从来没有哪家这么对过我们这些写代码的 换成OpenAI、Anthropic、Google，打死我都不信他们会这么干 DeepSeek，这波我是真的爱了🐳❤️