推文

@tvytlx · 2026-10-15 02:05

有个哥们在用 TypeScript 从零写一个 ChatGPT 那样的大模型。 为什么不用 Python？ 他的理由我觉得挺对： 换一门语言重新实现一遍，人才会被逼着搞懂每个细节。 想想确实是这样。 用 Python 跟着教程敲，PyTorch 里 attention 一行就调完了，代码跑通了，你就以为自己懂了。 换成 TypeScript，能直接抄的轮子少得多。 矩阵怎么乘，数据怎么切成一批一批，注意力到底在算什么， 每一步都得先想明白，才写得出来。 照着抄的时候，脑子可以不在线。 翻译成另一种语言就不行了。 他现在写到了数据加载、词嵌入和注意力机制。 每一章都有能直接跑的代码，放在 GitHub 上。 后面还会加浏览器里能直接玩的 WebGPU 演示。 我觉得这个方法能用到很多地方。 想知道自己是不是真懂一个东西，就换一种“语言”把它重写一遍： 代码换一门语言， 论文改写成外行能听懂的大白话， 英文资料用中文讲给朋友听。 哪里卡住了，哪里就是你以为自己懂、其实没懂的地方。 现在有了 AI，这招反而更值钱了。 什么都能一键生成，“跑通了”变得太便宜， 可是要真懂一个东西，门槛一点都没降。 我也想试试，用 Excel 公式把 attention 实现一遍。 估计写到第三列，我就开始怀疑人生了。 https://news.ycombinator.com/item?id=50085332

曝光 129 · 评论 0 · 点赞 1 · 书签 0