卖 GPU 的 NVIDIA，为什么还要自己下场做开源大模型？ 10 月 15 日，NVIDIA 又发布了 Nemotron 3.5 系列新模型 很多人对 … · @manongfu · TwKit

@manongfu

卖 GPU 的 NVIDIA，为什么还要自己下场做开源大模型？ 10 月 15 日，NVIDIA 又发布了 Nemotron 3.5 系列新模型 很多人对 NVIDIA 开源模型的理解是： 模型越便宜，开发者越多，GPU 就越好卖 我之前也是这么想的 但翻到今年 2 月 NVIDIA 研究副总裁 Bryan Catanzaro 的一次采访，发现还有一个更值得关注的原因： NVIDIA 自己做模型，是为了知道下一代 GPU 应该怎么设计 他解释说，NVIDIA 做的是加速计算，而加速计算首先要搞清楚：未来究竟需要加速什么？ 比如： • 数值精度需要做到什么程度？ • MoE 架构会怎样影响 GPU 之间的互联？ • GPU 已经具备稀疏计算加速能力，为什么没有被充分利用？ 这些问题会直接影响下一代 GPU 和计算系统的设计 NVIDIA 当然可以向客户了解需求，但最前沿的模型架构和实验结果，往往也是客户的核心机密 所以它不能只等客户提需求，还得自己训练模型、优化推理，亲自搞清楚计算瓶颈在哪里 这也是 Bryan 所说的 Nemotron 第一项任务：服务 NVIDIA 自己的计算系统研发 另一项任务才是扶持开放 AI 生态，让更多企业和开发者使用、定制和部署 AI，进一步扩大 NVIDIA 的市场。 再回头看这次发布的 Nemotron 3.5： Super VL 采用 MoE 架构，Bolt 则把低比特量化推到了 2-bit NVIDIA 不只是在交付模型，也在研究这些新架构究竟需要什么样的硬件支持 所以，Nemotron 对 NVIDIA 来说，既是开放给开发者的模型，也是研究下一代 GPU 的试验场

曝光 34 · 评论 1 · 点赞 0 · 书签 0