DeepSeek开源DeepInfer及其与华为的芯片合作 · 话题榜 · TwKit
AI科技 · 26 帖 · 20 位作者 · 曝光 1694161
DeepSeek公布并开源推理框架DeepInfer,帖子关注其吞吐与成本数据、开源范围,以及这会如何影响模型服务定价;另有报道指DeepSeek与华为合作设计下一代AI芯片。
- 厘清开源内容、授权协议与推理框架的具体范围。
- 解读吞吐量和成本数据对模型服务价格的可能影响。
- 观察中外开发者如何评价开放策略及其竞争影响。
- 梳理与华为共同设计下一代AI芯片的相关报道及证据。
@modaleap
DeepSeek开源非常有助于增加就业😆 以前这么牛的Infra只能大厂招得起,月薪近十万,中小厂完全没法招Infra工程师 现在中小厂也能花一两万请Infra工程师用现成的框架了,预期能创造数倍于大厂的就业
查看原帖@loveAIwang
前两天DeepSeek还天天被拉去做亲子鉴定😤 今天DeepSeek:别验了,DNA我直接公开 推理框架DeepInfer整个开源,Apache 2.0,自己拿去看🐳 OpenAI:…… Anthropic:……
查看原帖@Vincent_AINotes
DeepSeek 真是站着把钱挣了! 今天 DeepSeek 正式开源 DeepInfer,官方披露单集群吞吐量达到每天 155 万亿 Tokens,折合每卡每小时 38 美元收入。 之前梁圣说 10 个月回本,现在看来还真保守了。 按美国公开市场的显卡价格粗算,两个月就能收回硬件成本。就算按国内黑市 350 万一套卡的价格算,估计四个月也能回本。 当然,这还没扣除电费、运维等成本。 怪不得美国那些云厂商顶着 10% 的利率也要借钱建数据中心,这生意看着是真赚钱啊!
查看原帖@xiangning0
Deepseek把内部的推理框架也开源了 糟了,A÷又有东西学了, 学完进化以后,又要反手出一张报告说Deepseek蒸馏了 真有人信Deepseek完全靠蒸馏走到这一步的, 但凡看过他们的开源内容和论文也说不出这种话....
查看原帖@qinbafrank
梁文锋格局怎么这么大?不仅模型开源了,现在又把推理框架也开源了,而且就是deepseek V4.1-Flash 现在正在用的核心推理框架。
查看原帖@MinLiBuilds
😭 梁文峰我真的哭死!DeepSeek 这次开源推理框架,是一场蓄谋已久的阳谋! 美国封芯片,梁子就拼算法。美国封产品,梁子就开源基础设施。 把 2026 年的时间线连起来看,太有戏剧性了。 🔥 2 月,梁子先动手。 路透社爆料,DeepSeek 发布 V4 前,竟然没有提前把模型交给 NVIDIA 和 AMD 优化。 反而让华为等国产芯片厂商提前拿到模型,抢先适配! 🔥 4 月,DeepSeek V4 正式登场。 百万 Token 上下文,模型开源,继续把大模型的使用成本往下打。 🔥 7 月,美国开始下狠手。 美国国土安全部在 7 月 24 日签发禁令,要求联邦民事机构: ① 禁止采购 DeepSeek 相关产品和服务。 ② 从政府 IT 系统中清除 DeepSeek。 ③ 连基于 DeepSeek 实现开发的第三方产品和服务,也纳入清除范围! 第三条才是真的狠!要把梁子往死里整。 🔥 9 月,梁子继续降成本。 发布 V4.1 Flash,552B 参数的 MoE 模型,输入只激活 8B,输出激活 16B。 让大模型用更少的计算资源,干更多的活。 🔥 10 月 17 日,模型继续升级。 V4.1 Flash-1017 发布,编程、Agent 能力继续提升。 🔥🚨10 月 20 日,高潮来了! 美国正式公开刊登对 DeepSeek 的清除与采购禁令。 同一天,梁子直接把自家生产级推理框架 DeepInfer 开源了! 更有意思的是,官方只列出两类支持的硬件: ① NVIDIA SM100:B200 / GB200 ② 华为 Ascend 950:国产昇腾 NPU 这两类硬件跟我们普通屌丝基本没关系,瞄准的就是拥有大规模算力的数据中心。 DeepInfer 里面有什么? MoE 专家并行、动态负载均衡、推测解码、异步调度…… 都是 DeepSeek 为了让大模型跑得更快、更省算力,长期打磨的推理技术。 这才是我理解的梁子的阳谋! 你可以限制先进 GPU 出口,我就继续研究怎么用更少的算力跑出更强的模型。 你可以不让美国联邦机构采购 DeepSeek,我就把自己的推理技术交给全球开源社区。 你有 NVIDIA,我也支持 NVIDIA。 中国有华为,我同样支持华为。 未来更多芯片厂商想加入?那就一起研究、一起适配! 最绝的是,梁子选择让 NVIDIA 和华为出现在同一份开源项目里。 以前,大模型要努力适配芯片。 未来,芯片厂商也可能为了争取 DeepSeek 的推理负载,主动来适配它的技术生态。 美国的禁令可以影响政府采购,却无法让已经开放的技术知识消失。 这场仗,梁子不是要证明自己不需要 NVIDIA。 而是想证明,中国的大模型可以有不止一条路。 这才是真正的技术反抗。 不是骂街,不是喊口号。 是把代码写出来,把另一条路铺出来。 DeepInfer: https://github.com/deepseek-ai/DeepInfer 美国禁令: https://www.federalregister.gov/d/2026-21447 https://x.com/MaxForAI/status/2087596692497719654/video/1
查看原帖@fxtrader
据报道,DeepSeek正与华为深度合作,参与下一代AI芯片的设计决策,目标是摆脱对英伟达的依赖,利用国产芯片训练最先进AI模型。报道称,华为工程师长期进驻DeepSeek办公室,按其技术需求调整芯片设计,合作程度远超一般芯片供应商与客户的关系。 华为根据DeepSeek对模型运算及处理器之间数据传输的要求调整芯片设计,相关设计将应用于2027年及之后推出的AI芯片。 DeepSeek计划最快今年底开始使用华为昇腾950DT芯片进行AI模型预训练,目前测试仍在进行,时间表可能改变。华为计划将2027年推出的昇腾960DT芯片大部分供应量优先分配予DeepSeek,而非平均分配予其他中国AI企业;DeepSeek将同时利用这款芯片训练及运行AI模型。 软件方面,DeepSeek采用开源编程工具TileLang,以减少对英伟达CUDA软件生态的依赖。报道称,DeepSeek上月已推出支持昇腾950的TileLang版本,并表示目前用于模型训练的TileLang程式均已有对应的昇腾版本。 据报道,DeepSeek最新测试已使用逾1000枚处理器,但要完成大型AI模型的预训练,可能需要逾10000枚昇腾950DT连续运行数星期。
查看原帖@chasen_liao
Ok啊,DeepSeek 也是把自己全家都开源了
查看原帖@oran_ge
DeepSeek 把自己低价的秘密武器推理框架给全部开源了 这将推动所有模型大降价 善莫大焉 大鲸鱼是人类之光
查看原帖@NFT_Chen
🚨重磅!DeepSeek 正式开源生产级推理引擎 DeepInfer!梁圣太伟大了!让AI惠及每一个普通人! 梁文峰放大招,把自家跑 V4.1-Flash 线上服务的核心推理框架彻底开源Apache-2.0。 核心要点 🔹就是官方在用的引擎:高吞吐、低延迟大规模服务能力直接开源 🔹双平台支持:英伟达 SM100 + 华为昇腾 950 🔹关键能力:优化内核、MoE 专家并行、DSpark 推测解码、SWA 重放、零开销调度、结构化输出 🔹配套开源:deepseek-recipe(编解码组件,与官方 API 逻辑对齐) 🔹目标:大幅降低算力与电力成本,让 AI 更普惠 DeepInfer:https://github.com/deepseek-ai/DeepInfer deepseek-recipe:https://github.com/deepseek-ai/deepseek-recipe 模型开源已是基操,现在连推理引擎也开了,格局直接拉满。 #DeepSeek #DeepInfer #开源 #AI推理 #梁文峰 #普惠AI #梁圣 #推理引擎 #V41flash1017
查看原帖@NFTCPS
记住了吗?
查看原帖@jackyang886
告诉我deepseek还有哪些核心技术没开源的? @grok 请如实回答,不要有所保留
查看原帖@Kmno4Z62942
Deepseek 开源的最新的 大规模云服务推理框架 DeepInfer。技术报告中写到:目前单一集群的服务吞吐是 155 万亿 Tokens/天,整体收入是每卡每小时 38 美金(按谷价)。 梁叔叔还是太实诚了,连收入都开源!原文链接在此 https://zhuanlan.zhihu.com/p/2095560295930508953
查看原帖@NFT_Chen
🚨重磅爆料!DeepSeek正全力帮助华为“造芯”:华为工程师驻场办公,联合设计下一代AI芯片,年底或实现全国产模型训练! 据The Information独家报道,DeepSeek已深度参与华为昇腾芯片设计: 1️⃣华为工程师长期驻场DeepSeek办公室,将训练需求直接写进芯片架构 2️⃣最早2026年底用昇腾950DT开展大规模预训练 3️⃣2027年Q1的昇腾960DT大部分产能优先给DeepSeek 4️⃣TileLang成为CUDA替代方案,已完成昇腾适配并开源相关工具 5️⃣目标:前沿模型完全脱离Nvidia,构建自主软硬件生态 与英伟达性能差距仍在,单芯片约7倍差距,但软硬件协同优化+规模化集群正加速追赶。中国AI自主化进程又迈出关键一步。 报道来源:https://www.theinformation.com/articles/deepseek-shaping-huaweis-ai-chips-growing-challenge-nvidia #DeepSeek #华为 #昇腾 #AI芯片 #Nvidia #中国AI #自主可控 #TileLang #科技前沿 #梁文峰 #梁圣
查看原帖@tuolaji2024
DeepSeek 把印钞机开源了! 单卡谷价每小时38美元,每天可以创收,6000 人民币,每个月,15-18 万人民币,不管是华为还是英伟达,这都是印钞机,如果是华为不敢想,如果是英伟达 b100 200 更不敢想,那么高端产品得算力价值更是逆天!
查看原帖@_FORAB
华为和 DeepSeek 捆绑关系再升级。信息报爆料称,华为工程师已长期驻场 DeepSeek 办公室,双方正共同设计下一代国产 AI 芯片。 DeepSeek 计划最早在今年底,开始使用华为 Ascend 950DT 芯片,进行大规模预训练。一次完整预训练,可能需要超过 1 万颗华为芯片,连续运行数周。
查看原帖@jackyang886
我有时候真怀疑: DeepSeek 是不是不想赚钱, 只想让全世界的 AI 公司重新定价? 不然这价格战打下去, 最后受伤的到底是谁?
查看原帖@leo114119
Deepseek把自家的推理框架全面开源了,日均吞吐与毛利都公布了 连单卡多少钱都有,牛逼啊 梁圣直接教你搞中转站赚钱,有实力的快去搞 每小时38刀,10 个月就回本了。。 https://zhuanlan.zhihu.com/p/2095560295930508953
查看原帖@tuolaji2024
DeepSeek 已经完全放弃了的 Hopper 堆栈(H100/H200)的支持,并且在新开源的推理框架中只支持 Blackwell 和华为昇腾 NPU。 这,这个操作是不是可以理解,顶级模型只能用顶级芯片? 黄仁勋不得笑开花了?ds 给他带货,以及 a 畜又能学到真本事了。
查看原帖@xingzengji
DeepSeek 他妈的怎么突然就比 Claude 领先这么多?😂
查看原帖