全体起立! https://github.com/deepseek-ai/DeepInfer DeepInfer 是 DeepSeek 用于大规模生产服务的… · @QingQ77 · TwKit

@QingQ77

全体起立! https://github.com/deepseek-ai/DeepInfer DeepInfer 是 DeepSeek 用于大规模生产服务的高性能推理框架，这次开源版本聚焦离线推理。它目前支持 DeepSeek-V4.1-Flash，可在 NVIDIA SM100 GPU 和华为昇腾 950 NPU 上运行。

曝光 185 · 评论 0 · 点赞 0 · 书签 0