TwKit
正在载入
TwKit

学 Transformer,最容易忘的是矩阵运算 推导的时候能跟上,隔几周再回忆 Q、K、V 的形状怎么变 里面的一些细节就想不起来了 想了下,原因是脑子里… · @antiAIvo · TwKit

@antiAIvo

学 Transformer,最容易忘的是矩阵运算 推导的时候能跟上,隔几周再回忆 Q、K、V 的形状怎么变 里面的一些细节就想不起来了 想了下,原因是脑子里没有一张全局的运算画面 试着用claude做了一个交互页面: 3 个词,3×4 的小矩阵 从输入到注意力输出 逐格演算,点哪一格就看哪一格 这样就可以随时回看,加强记忆🤔

曝光 73 · 评论 0 · 点赞 0 · 书签 0

查看原帖