Meta 现在公布了关于 Prometheus 的新细节，这是其位于俄亥俄州的吉瓦级 AI 超级集群。 在同步训练期间，Prometheus 会出现 30–… · @IamRamenPanda · TwKit

@IamRamenPanda

Meta 现在公布了关于 Prometheus 的新细节，这是其位于俄亥俄州的吉瓦级 AI 超级集群。 在同步训练期间，Prometheus 会出现 30–40% 的电力波动，在几秒钟内转移数十兆瓦的电力。Meta 开发了一种名为 Dynamo Dimmer 的系统来限制 GPU 功率，由电池和电容器支持。 第一阶段已经训练了 Muse Wonder。Prometheus 现在连接了数十万块 Nvidia GPU，分布在多个建筑中，并计划扩展到大约 100 万块，并添加 Nvidia 的 Vera Rubin 硬件。 在 2025 年中期达到峰值时，Prometheus 每天每 8000 块 GPU 就会遭受近 1000 次训练中断。Meta 表示，与 Nvidia 的工程修复措施已将中断减少了 99%。 为了让 32,768 块 GPU 持续进行训练，Meta 准备了 37,656 块 GPU，包括用于硬件故障的备用容量。

曝光 577 · 评论 0 · 点赞 1 · 书签 0