DeepSeek 把自己跑模型用的"发动机"整套开源了 🛠️ 叫 DeepInfer，Apache-2.0 协议，谁都能免费商用。 就是 DeepSeek … · @Super_Nius · TwKit

@Super_Nius

DeepSeek 把自己跑模型用的"发动机"整套开源了 🛠️ 叫 DeepInfer，Apache-2.0 协议，谁都能免费商用。 就是 DeepSeek 自家线上服务背后，让大模型又快又省地回答你的那套程序。 里面连"相同输入必得相同输出"的确定性采样、不额外耗时的异步调度都放出来了。 模型开源早不新鲜，把怎么高效跑起来也交出来，自己部署 DeepSeek 的人这下省大事了 🔥 https://github.com/deepseek-ai/DeepInfer

曝光 18 · 评论 0 · 点赞 0 · 书签 0