推文

@Huahuazo · 2026-10-09 16:18

以前觉得LLM离普通电脑很远？Unsloth现在都有桌面App了。 它主打在消费级 GPU 上做模型训练，官方称训练速度能提 2 倍，显存占用降约 70%。 ① Qwen、Kimi K3、MiniMax-H3、Gemma 4、DeepSeek-V4、FLUX 这些模型都支持 ② LoRA、QLoRA、全量偏置、RL、GRPO、DPO、FP8 都罩着 ③ Windows、macOS、Linux 通用，AMD、Intel GPU 也支持 ④ 可导出 GGUF、FP8，还提供 OpenAI 兼容 API ⑤ 能直接给 Claude Code、Codex 等 Agent 当本地推理后端 从训练到部署基本本地就能跑完，想自己折腾模型的，这个可以重点关注。 🔗 https://github.com/unslothai/unsloth

曝光 189 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 26.99631426070477