推文

@QQ_Timmy · 2026-10-12 22:43

Azure Maia 擴展至多吉瓦部署 - 微軟將從 2027 年起，將 Azure Maia 系列擴展至 多吉瓦（multi-gigawatt）部署。 - Maia 將成為微軟產品與服務的主要推論系統。 Maia 200（現況） - 已投入生產，正在服務微軟生產工作負載（包含 Microsoft Copilot）。 - 支援 MAI 團隊開發下一代模型，GitHub Copilot與 Microsoft Foundry預計年底前跟進。 - 運行 OpenAI 模型、微軟自家 MAI 模型與主流開源模型。 - 正在美國、歐洲、澳洲部署。 - 相較領先 GPU 基礎設施，在 Teams、Copilot 等體驗中可達 每瓦 1.7 倍 token。 Maia 300（2027 年推出） - 專為新興工作負載設計：長上下文推理、低延遲對話、多步驟代理任務。 - 預期效能： - 相較領先 GPU 系統，每兆瓦多 40% token。 - 完整 96 加速器機櫃配置，token 吞吐量最高達 Maia 200 的 7 倍。 - 關鍵技術特點： - 軟體定義資料流架構（減少資料移動）。 - 8 層 HBM4，峰值頻寬 18.0 TB/s（950W TDP）。 - 多小晶片架構（運算使用台積電 N2P）。 - 支援增強 MXFP4 等低精度格式，提升上下文與效率。 - 機櫃規格：96 顆加速器、167 kW、27.6 TB HBM、1.7 PB/s 聚合頻寬。 策略定位 - Maia 是微軟 AI 基礎設施策略的核心，強調從矽片到系統再到代理的共同設計。 - 目標是在功耗限制下，提供更高效率的推論能力，支撐「前沿轉型（Frontier Transformation）」。 - 微軟強調開放、異質、模型多樣的平台，不依賴單一晶片或單一模型。

曝光 3414 · 评论 3 · 点赞 17 · 书签 9 · 曝光/时 73.90231258876072