本地微调LLM以前经常要租A100。Unsloth现在有桌面端App，能在消费级显卡上跑训练，速度大约快一倍，显存占用少七成左右，精度基本不掉。 主流模型基… · @0xGky · TwKit

@0xGky

本地微调LLM以前经常要租A100。Unsloth现在有桌面端App，能在消费级显卡上跑训练，速度大约快一倍，显存占用少七成左右，精度基本不掉。 主流模型基本都能覆盖，Qwen、Kimi、MiniMax、Gemma、DeepSeek、FLUX这些都支持。轻量LoRA、QLoRA到全量微调，以及RL、GRPO、DPO、FP8都有。App覆盖Windows、macOS、Linux，AMD和Intel卡也能用。 训完可导出GGUF或FP8，还能开OpenAI兼容接口，直接接到Claude Code、Codex当本地后端。 🔗https://github.com/unslothai/unsloth

曝光 12 · 评论 0 · 点赞 0 · 书签 0