AI 芯片竞争,真正的瓶颈可能不是芯片,而是开发者愿不愿意为它重写一套软件。 IBM 最近把 Spyre 做成了 PyTorch 的“一等后端”。 这意味着… · @RwatitFahsa · TwKit
@RwatitFahsa
AI 芯片竞争,真正的瓶颈可能不是芯片,而是开发者愿不愿意为它重写一套软件。 IBM 最近把 Spyre 做成了 PyTorch 的“一等后端”。 这意味着,开发者可以继续使用熟悉的 PyTorch、vLLM 和 Hugging Face 工作流,把 Gemma 4、Qwen3、Granite 4.2 等模型跑到 IBM Z、LinuxONE 和 Power 系统上。 一次演示里,优化图构建和设备调度后,Granite 3.3 8B 在特定测试条件下: Prefill 提升 1.7 倍; Decode 提升 2.4 倍。 更有意思的是,新的编译器代码量大约缩小了 7 倍,维护成本也跟着下降。 我觉得这比“再造一颗新芯片”更关键。 硬件可以有很多路线,但软件入口最好只有一个。 未来真正能把新加速器卖出去的,不一定是参数最漂亮的厂商,而是那个能让开发者少改代码、少踩坑、少维护的人。 AI 基础设施的护城河,正在从芯片规格,转向软件生态。 https://research.ibm.com/blog/pytorch-spyre-accelerator-software-ecosystem-updates
曝光 76 · 评论 2 · 点赞 2 · 书签 0
查看原帖