TwKit
正在载入
TwKit

说实话,市面上讲 RL 和 LLM 的资料我翻了不少,要么云里雾里飘在天上,要么蜻蜓点水糊弄事。 真正让我把"强化学习→LLM 训练"这条链路捋顺的,是加州… · @wangxiaoxin88 · TwKit

@wangxiaoxin88

说实话,市面上讲 RL 和 LLM 的资料我翻了不少,要么云里雾里飘在天上,要么蜻蜓点水糊弄事。 真正让我把"强化学习→LLM 训练"这条链路捋顺的,是加州大学那门叫《大语言模型的强化学习》的开放课。 授课的是 UCLA 数学系一位助理教授。推导该有的都有,但不会一上来甩一堆公式把人劝退。 这门课的落脚点很明确:学完你得能自己上手设计。 1⃣ 深度强化学习主线:MDP、策略梯度、A3C、PPO,几个关键算法挨个过 2⃣ LLM 前置铺垫:NLP、语言建模、RNN,缺的底子给你补上 3⃣ RLHF 全链路:数据怎么收、奖励怎么建、模型怎么微调,一环不落讲透 4⃣ 可验证奖励的强化学习:冲着安全对齐去的训练范式,偏落地 5⃣ 配了 Jupyter 代码和课后作业,不是听完就完事 视频、幻灯片、练习材料一应俱全,YouTube 上全套公开。 如果你想把 RL 和 LLM 训练真啃下来,而不是浮皮潦草看个热闹,这门课值得排进日程。 🔗:http://ernestryu.com/courses/RL-LLM.html

曝光 63 · 评论 1 · 点赞 2 · 书签 0

查看原帖