推文

@tvytlx · 2026-10-16 02:05

让 AI 给自己造一颗跑自己的芯片。 有个哥们真在干这事。 他用 Claude Code 这类 agent，从零搭了一个开源 AI 加速器，叫 openTPU。 硬件代码、指令集、模拟器、编译器、性能分析器，全在一个仓库里，提交了 1900 多次。 现在它插在一块 Kintex-7 的 FPGA 卡上，跑着 Qwen3.5、Gemma 4 这些真模型。 Qwen3.5 0.8B，4bit，每秒 24 个 token。 卡上只有 4GB 内存，35B 的 Qwen3.5 MoE 也能跑。专家权重边跑边从主机往卡里搬，每秒差不多 4 个 token。 我觉得最值得看的是他的工作流： 一个 agent 读硬件代码、时序报告，还有之前几轮失败攒下的教训，然后提一个改动。 另一个 agent 负责实现。 然后自动检查：硬件结果跟 Python 模拟器逐比特对比，测性能，跑仿真。 他说到目前为止最大的心得就一条：给 agent 有用的反馈。 具体哪个测试挂了。 时序卡在哪。 这次改动到底有没有变快。 这个循环越便宜，能试的方案就越多。 现在时钟 133MHz 刚好卡过，余量 0.032 纳秒，仓库里还有一堆 Vivado 任务在接着抠。 也有边界。 大的架构调整，还得他自己推一把。 测试有盲区。有几个浮点 bug，模型推理测试全过了都没发现。 测试通过，能说明的东西其实有限。 硬件一直是试错最贵的领域，改一次要等综合、等布线、等上板。 他把模拟器当成标准答案，硬件每一步都要跟它对得上，agent 才有了能自己爬的梯子。 我觉得接下来值钱的能力，是给 AI 搭一个它自己能知道错在哪的环境。 写代码这件事，反而越来越可以交出去了。 这玩意没有 FPGA 也能玩，笔记本上用模拟器就能跑模型，从 Python 里的矩阵乘法一路看到电路。 看完我决定先回去给自己的 agent 补几个测试。 造芯片的事，下辈子再说。 https://www.reddit.com/r/ClaudeAI/comments/1x6ajc5/im_using_claude_code_to_build_an_ai_accelerator/

曝光 198 · 评论 3 · 点赞 1 · 书签 0