推文

@Leoskie_L · 2026-10-14 23:49

Ian Buck：同一度電，多塞 40% GPU 很多人把 AI 缺電讀成「只能等新電廠、新變電所」。輝達副總裁 Ian Buck 在 OCP 講的卻是另一件事：現有的電，很多根本沒用到。 他的原話是：管理好電力，可以讓「今天全世界的 GPU 再多 40%」。原推文寫成「在現有資料中心」，那是發文者的轉述，他本人沒這樣講。 原因是機房是照每顆 GPU 的最高功耗（輝達叫 MaxP）來配電的。但推論工作很少一直跑在最高功耗，平均下來，大部分配好的電都閒著。 輝達的做法叫 MaxLPS（Maximum Land Power Shell）：總電量不變，用軟體在 GPU、機櫃、不同工作之間即時調配電力，多裝機器，再用控制迴路把總用電壓在上限之內。 就像大樓的停車場。照「每戶兩台車」來畫車位，結果白天一半是空的；改成共享車位、即時調度，同一塊地可以多賣幾戶。 實測數字：輝達和 Nscale 在冰島做了一次測試，同樣 264.4kW 的配電，GPU 從 140 顆增加到 192 顆（+37.1%），總吞吐量多了 49.2%。影片裡投影片上的 37%、50% 就是這組數字，Buck 本人沒有念出來。 代價也寫在同一篇：P99 首字延遲多了 17%。共享車位在尖峰時段，總有人要多繞一圈。 瓶頸因此從「有沒有電」，移到「電能不能即時調度」。機櫃裡的電源架、量測和限流要做得夠細，軟體才有東西可以調。 台灣這邊，台達電 2308 做機櫃電源架，前一篇 MGX 250kW 寫過。不過 MaxLPS 主要是輝達自己的軟體，哪家硬體因此多接單，目前沒有看到資料，這是我的推論。 反方：40% 是「最多」，輝達自己的文件也說只能當實驗起點，訓練工作吃電比較滿，空間就小。另外要 45°C 液冷的設計配合，舊機房不一定改得動。 所以缺電這件事，有一部分其實是配電太保守。 我家冷氣的電費，倒是一點都不保守。

曝光 769 · 评论 0 · 点赞 1 · 书签 0 · 曝光/时 191.33796850300217