天不生 DeepSeek，万古如长夜。 DeepSeek 把自己内部用来跑生产服务的推理框架 DeepInfer 完全开源了。这个框架是他们用来驱动 Dee… · @jakevin7 · TwKit

@jakevin7

天不生 DeepSeek，万古如长夜。 DeepSeek 把自己内部用来跑生产服务的推理框架 DeepInfer 完全开源了。这个框架是他们用来驱动 DeepSeek-V4.1-Flash 模型的高性能推理引擎，强调高吞吐 + 低延迟。 同时他们还开源了 deepseek-recipe，这是一套 token 编码/解码组件，目的是让社区部署的行为和官方 API 保持一致。

曝光 341 · 评论 0 · 点赞 4 · 书签 1