推文

@fireandstart · 2026-10-14 01:01

这组结果让我更关注“正确性测试到底覆盖了什么”。如果原测试把 1,487 个错误 kernel 判为通过，而更严格的检查又发现约四成样本有问题，那么基准分数奖励的可能只是“在有限样例上看起来正确”，而不是可依赖的实现。两个例子尤其具体：一个内核每次都返回同一块输出缓冲区，后一次调用会悄悄覆盖前一次结果；另一个在极端输入下把 PyTorch 的 0 算成 NaN。这分别暴露了状态生命周期和数值边界的盲区，单纯放宽浮点容差显然解释不了 NaN。把不同 shape、重复执行、极端值和 NaN 纳入验证，是很实用的起点；同时也应该公开 verifier 的误报、漏报和数据集来源，让第三方可以复核结论。帖子里 Blackwell tensor cores 上的 native backward 同样值得关注，不过性能和正确性最好分开报告：一个更快的内核，只有在梯度、边界行为与输出生命周期都稳定时，才真正适合训练。评估 AI 生成代码，最终要从“跑得快”走到“在明确输入域和调用约定下持续算对”。

曝光 13 · 评论 1 · 点赞 1 · 书签 0