推文

@huihoo · 2026-10-13 18:38

微软最新自研芯片：Maia 300 Maia 300 针对长上下文、高强度推理及繁重解码任务的需求 对这一架构进行了演进升级 首先，内存架构从 SoC 内部的统一内存访问（UMA）模式，转变为跨芯粒（chiplet）的、具备局部性感知能力的非统一内存访问（NUMA）模式 从而允许软件将数据放置在靠近使用该数据的计算单元处 其次，引入了支持硬件加速数据类型转换的新型低精度格式，降低了处理每个 Token 所需的数据传输量 最后，单机架的加速器数量翻倍至 96 个，且纵向扩展（scale-up）域扩展为包含 12,288 个加速器的 SuperPod 规模，实现了更多加速器作为单一系统的高效协同工作 https://azure.microsoft.com/en-us/blog/deep-dive-into-azure-maia-300-architecture/

曝光 424 · 评论 2 · 点赞 0 · 书签 0