TwKit
正在载入
TwKit

DeepSeek 开源了线上跑 V4.1 Flash 的推理框架 DeepInfer。翻了 README:目前只给离线推理,硬件只列英伟达 SM100 和昇… · @laoyu4399 · TwKit

@laoyu4399

DeepSeek 开源了线上跑 V4.1 Flash 的推理框架 DeepInfer。翻了 README:目前只给离线推理,硬件只列英伟达 SM100 和昇腾 950,KV cache、PD 分离、负载均衡都不在这版里。 大家在吹格局,可一人公司真能直接用上的,可能只有配套的 deepseek-recipe? 你会自己部署,还是继续买 API?

曝光 3 · 评论 0 · 点赞 1 · 书签 0

查看原帖