推文

@prolibertine · 2026-10-13 22:08

微软昨晚把 Maia 300 放出来了，纳德拉那条推到现在快 200 万曝光。官方给的数：比主流 GPU 系统每兆瓦多出 40% 推理 token，96 卡满配一柜的 token 吞吐是 Maia 200 的 7 倍，每瓦性能 2.5 倍以上。单卡 8 颗 HBM4、288GB、18TB/s，计算 die 用台积电 N2P；一柜 96 卡塞在 167kW 里，超节点最多 12,288 卡。2027 年开始量产部署，要扩到多吉瓦，成为微软自家产品的主力推理系统。 我最在意的是「主力推理系统」这几个字。Copilot、GitHub Copilot、Teams、Cowork，以后大部分 token 会跑在自研芯片上。Maia 200 现在已经在美国、欧洲、澳洲跑这些产品，官方说每瓦 token 比 GPU 多 1.7 倍。 架构博客里有两处跟 agent 直接相关。一个是 prefill 和 decode 拆开放，算完的 KV 直接在同一张 scale-up 网里搬到 decode 节点，不绕主机。另一个是 MXFP4 加不到 3 bit 的存储格式，为的是同样功耗下塞更长的上下文、更多并发会话。长程 agent 最吃的就是 decode 和 KV。 40% 这个数得打个折，微软没说对比的是哪款 GPU、怎么测的，而且是 2027 年的预期。 今天几件事正好凑一块：早上 X 把 Grok、Cursor、Premium 打成一个周刷新的共享额度池，晚上阶跃买手机送 12 个月、每月 100 亿 token，AMD 也在推 agent 专用的 CPU 机柜。订阅越来越按 token 打包卖，额度能给多大方，最后看每兆瓦出多少 token。自己有芯片的厂周额度敢放松，租卡的只能靠限流和切小模型扛着。

曝光 6 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 2.53117019912479