#DeepSeek 开源推理引擎 #DeepInfer 分析：计算易 Scale，Memory 难 Scale。 微信公众号文章（作者 渣B zartbot… · @Jasonz0830 · TwKit

@Jasonz0830

#DeepSeek 开源推理引擎 #DeepInfer 分析：计算易 Scale，Memory 难 Scale。 微信公众号文章（作者 渣B zartbot）从技术逻辑、商业理念与组织文化角度解读 DeepInfer。 核心观点： DeepSeek 独特的组织架构使其能够实现 80% 的毛利率。 在其他实验室，例如，每个团队都有自己的 KPI，几乎没有妥协的余地。 即使基础设施工程师提议进一步压缩 KV 缓存，如果这会损害模型性能，他们不可避免地会遭到算法团队的反对。 DeepSeek 从 Dense 到 MoE，持续压缩 KVCache 内存占用，V4/V4.1 通过 MLA、NSA、Sparse Attn、跨层共享等进一步优化。 推理侧采用存算分离极简设计，计算节点无状态，KVCache 由 Decode 节点写入存储，提升弹性。 作者称该方案可实现约 80% 毛利、约 17 个月回本，并强调算法与 Infra 深度协同、长期主义文化的重要性。 文章为个人技术解读，引用了多篇作者此前关于 DeepSeek MoE、V4.1 结构等分析。 原文链接我放在回复区。 #DeepSeek #DeepInfer #推理引擎 #KVCache #MoE #开源

曝光 44 · 评论 1 · 点赞 1 · 书签 0