想搞懂大模型怎么训练？这个开源项目把全流程摊开了。 MiniMind 用原生 PyTorch 实现了从预训练到后训练的多种流程，不只教你调用模型，还能直接研… · @bkdgiffug · TwKit

@bkdgiffug

想搞懂大模型怎么训练？这个开源项目把全流程摊开了。 MiniMind 用原生 PyTorch 实现了从预训练到后训练的多种流程，不只教你调用模型，还能直接研究训练代码。 🧠 预训练、SFT、LoRA、DPO ⚙️ PPO / GRPO、工具调用与 Agent 强化学习 💻 代码相对精简，适合边读边跑、动手实验 项目介绍中提到，64M 参数模型可用较低成本完成训练。不过实际耗时和费用取决于硬件、数据规模及训练配置，不能直接照搬宣传数字。 如果你想从代码层面理解大模型如何训练，这个仓库值得收藏。 🔗 https://github.com/jingyaogong/minimind

曝光 26 · 评论 1 · 点赞 0 · 书签 0