梁子又切换回梁圣了 ！哭死。 DeepSeek 正式开源大规模云服务推理框架 DeepInfer。 基于这一框架已实现 DeepSeek V4.1 Flas… · @ama_huangama · TwKit

@ama_huangama

梁子又切换回梁圣了 ！哭死。 DeepSeek 正式开源大规模云服务推理框架 DeepInfer。 基于这一框架已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务，目前单一集群的服务吞吐是 155 万亿 Tokens/天，整体收入是每卡每小时 38 美金（按谷价）。 DeepInfer 集成了高性能算子和深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，可在英伟达与华为昇腾平台上运行。同时，我们还开源了生产级 Token 编解码组件 deepseek-recipe，支持主流大模型 API 协议与模型 Tokens 之间高效、准确的编解码，处理逻辑与 DeepSeek 官方 API 完整对齐，以确保第三方部署能获得与官方部署一致的 API 体验。

曝光 10 · 评论 0 · 点赞 0 · 书签 0