从 0 开始构建 LLM，Karpathy（OpenAI 创始成员、前Tesla AI 总监）带你一行一行代码手写一个 GPT，并讲述 GPT 是如何一步步… · @F5Adon · TwKit

@F5Adon

从 0 开始构建 LLM，Karpathy（OpenAI 创始成员、前Tesla AI 总监）带你一行一行代码手写一个 GPT，并讲述 GPT 是如何一步步训练成助手。[中英双语字幕] 同时把注意力机制拆开讲，你会发现它其实没那么玄！看完这个视频，你比只会调 API 的人要强得多。 外面卖几千块的大模型课，核心内容基本都在这个视频里了。 前半场讲 GPT 是怎么一步步训练成助手的： 1️⃣ 10:15 基座模型其实不会回答问题，它只会接着往下写文档。很多人 Prompt 写不好，就是没搞懂这一点。 2️⃣ 21:15 人写东西会想、会删、会改，模型只能一口气往下生成。所以要让它一步一步想，给它反思的机会。 3️⃣ 38:27 落地建议：先把 Prompt 用到极致，再考虑微调，想省钱就试试小模型。 后半场从带你从零手写一个 GPT 1️⃣ 01:11:14 开始，他带你从零手写一个 GPT，一行一行写代码。 2️⃣ 01:36:00 那段把注意力机制拆开讲，看完你会发现它没那么玄。 靠 AI 赚钱、找到好工作，第一步得先搞懂它是怎么工作的。这个视频看懂了，你就比 90% 只会调接口的人懂得多。 先收藏，周末找两个半小时看完。

曝光 16 · 评论 0 · 点赞 0 · 书签 0