DeepSeek 把印钞机开源了，你要什么我给你什么，不要也给！ 今天，我们正式开源大规模云服务推理框架 DeepInfer。 基于这一框架，我们已实现 D… · @tuolaji2024 · TwKit

@tuolaji2024

DeepSeek 把印钞机开源了，你要什么我给你什么，不要也给！ 今天，我们正式开源大规模云服务推理框架 DeepInfer。 基于这一框架，我们已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。把 Prefill（读题）和 Decode（逐字答）拆开部署，用负载均衡把请求均匀喂给 GPU，把长篇上下文的 KVCache 存到 3FS 上复用，再靠异步调度、投机解码把显卡空转压到最低，最终实现单集群 155 万亿 token/天、每卡每小时 38 美金收入！ 单卡谷价每小时38美元，每天可以创收，6000 人民币，每个月，15-18 万人民币，不管是华为还是英伟达，这都是印钞机，如果是华为不敢想，如果是英伟达 b100 200 更不敢想，那么高端产品得算力价值更是逆天！ https://zhuanlan.zhihu.com/p/2095560295930508953?share_code=EjrMIazyI7hj&utm_psn=2095930171652052700

曝光 654 · 评论 1 · 点赞 5 · 书签 2