推文
@SicanianSun · 2026-10-13 08:00
微软今天介绍 Maia 300。官方称,它每兆瓦推理 token 比“领先 GPU 系统”多 40%,机架级 token 吞吐量最高是 Maia 200 的 7 倍。这个对比目前是厂商口径,后面还要看具体模型、负载和成本怎么算。AI 硬件开始拼的,是同一度电能换来多少可用推理。
曝光 54 · 评论 2 · 点赞 0 · 书签 0 · 曝光/时 16.2644695338682
@SicanianSun · 2026-10-13 08:00
微软今天介绍 Maia 300。官方称,它每兆瓦推理 token 比“领先 GPU 系统”多 40%,机架级 token 吞吐量最高是 Maia 200 的 7 倍。这个对比目前是厂商口径,后面还要看具体模型、负载和成本怎么算。AI 硬件开始拼的,是同一度电能换来多少可用推理。
曝光 54 · 评论 2 · 点赞 0 · 书签 0 · 曝光/时 16.2644695338682