DeepSeek V4.1 Flash 刚发布，Unsloth 已经把量化版做出来了。 DeepSeek-V4.1-Flash-1017 上线后，Unslo… · @0xKillCoin · TwKit

@0xKillCoin

DeepSeek V4.1 Flash 刚发布，Unsloth 已经把量化版做出来了。 DeepSeek-V4.1-Flash-1017 上线后，Unsloth 很快推出了 Dynamic V3.1 GGUF 量化版本，并同步发布部署教程。 这次量化版主打的是本地部署和推理效率。 Unsloth 表示，在 GPQA Diamond、AIME25、LiveCodeBench v6、MMLU-Pro 和 Aider 等基准测试中，它的表现超过了同类量化版本。 但有个硬件门槛： 需要 64GB 以上内存。 如果你的机器达不到这个要求，建议先别急着下载。 原版模型方面，DeepSeek 给出的更新方向也很明确： * 基准测试表现进一步提升 * 任务完成速度更快 * 输出 Token 更少 * 性能与成本实现帕累托改进 新版本已经上线 DeepSeek 官网、App 和 API。 如果使用 DeepSeek Harness，官方建议搭配 v0.2.1-rc.1 或更高版本，以获得更好的体验。 一个值得关注的变化是：模型更新和量化部署几乎同步推进。 想体验最新 DeepSeek 模型的人，现在既可以直接使用官方服务，也可以尝试把量化版本部署到本地。 部署前记得先检查内存，别下载完才发现机器跑不动。😂 https://huggingface.co/unsloth

曝光 5 · 评论 0 · 点赞 0 · 书签 0