想摸清语言模型里头到底怎么转的，就别光会调API。 Raschka那本Build a Large Language Model (From Scratch)… · @0xGky · TwKit

@0xGky

想摸清语言模型里头到底怎么转的，就别光会调API。 Raschka那本Build a Large Language Model (From Scratch)的官方仓库，从分词、注意力、手写GPT起步，一路写到预训练、分类微调和指令微调。 每一章都配了notebook和说明。主线拿普通笔记本就能跑完，有显卡跑得更快。附录补上PyTorch，LoRA这些放在附加材料里。 它讲的是小模型怎么一步步搭起来，并非把ChatGPT原样炼出来。 https://github.com/rasbt/LLMs-from-scratch

曝光 20 · 评论 1 · 点赞 1 · 书签 0