DeepSeek 1017 + DeepInfer 我优化了一晚上，单流解码已经可以达到 56 TPS 我看看还能不能再快一点，DeepInfer 这个推理… · @manateelazycat · TwKit

@manateelazycat

DeepSeek 1017 + DeepInfer 我优化了一晚上，单流解码已经可以达到 56 TPS 我看看还能不能再快一点，DeepInfer 这个推理引擎非常有潜力呀👍

曝光 46 · 评论 0 · 点赞 1 · 书签 0