英伟达把10万美元的GB300塞进一台30公斤的塔式机箱,真正卡住它的不是芯片,而是你墙上那个20安培的插座。 [01] 物理极限与底层架构突围 MSI X… · @ChuckBass14291 · TwKit
@ChuckBass14291
英伟达把10万美元的GB300塞进一台30公斤的塔式机箱,真正卡住它的不是芯片,而是你墙上那个20安培的插座。 [01] 物理极限与底层架构突围 MSI XpertStation WS300 整篇评测里最关键的数字是电源规格:1600W、80 PLUS Platinum、C19线缆,而且需要一条独立的20A回路。北美墙插是120V×20A=2400W,按NEC持续负载80%折算只剩1920W。1600W输出按约92%的效率倒推,墙端输入约1740W,已经贴近单插座的物理上限。所以DGX Station不是"缩小版服务器",它的规格是由墙插功率反过来定死的单GPU节点。 拿机柜做个参照:GB300 NVL72整柜约120–140kW,装72颗GPU,摊到每个GPU槽位约1.7–1.9kW(含CPU、交换和散热)。桌边机1.6kW,正好是机柜的1/72。英伟达在功率上没做任何桌面妥协,只是把机柜的液冷CDU换成了闭环冷排加三风扇,再把整个机箱前脸都留给进风。 内存才是真正的架构看点。Blackwell Ultra挂288GB HBM3e(约8TB/s),Grace侧挂约496GB LPDDR5X,两边经NVLink-C2C(900GB/s)一致性互联,合计约784GB统一寻址。这对推理很有针对性:Prefill阶段吃FP4张量算力,瓶颈在计算;Decode阶段每生成一个Token都要把权重和KV Cache扫一遍,瓶颈在显存带宽。HBM放热权重,LPDDR5X接住长上下文溢出的KV Cache,用C2C带宽换容量,这样单卡显存满了也不必马上跨节点切分。 互联上的取舍同样明确。两台Station靠ConnectX-8的双口QSFP112做800Gbps RDMA直连,折合约100GB/s。NVL72里每颗GPU的第五代NVLink是1.8TB/s,差了约18倍。所以两台桌边机可以做Pipeline或PD拆分,但取代不了铜缆背板的机柜级Scale-up。这个产品断层是英伟达有意留的。 最反直觉的一点:整机没有USB4,也没有SATA,Marvell 10GbE控制器不直连CPU,而是挂在ConnectX-8内置的PCIe交换上。传统PCH的位置已经被SuperNIC占了。 [02] 商业壁垒与产业链利益重构 $NVDA:在一台工作站里,它卖的是Grace CPU + Blackwell Ultra + ConnectX-8 SuperNIC(含PCIe交换)+ 标准化主板的整套组合。所有DGX Station厂商共用同一块英伟达主板和I/O布局,MSI、技嘉只能在机箱、风道和RTX PRO显卡的安装上做差异化。OEM被压缩成钣金加散热的集成商:芯片端毛利70%以上,整机端只有个位数到低双位数,差距巨大。 $TSM:Blackwell Ultra是双Die设计,依赖CoWoS-L。桌边机和数据中心用的是同一条先进封装产能,每台Station都在跟NVL72抢CoWoS配额,这是它定价在$100K以上而不可能下探到消费级的根本原因。 $MU:HBM3e 12-Hi和LPDDR5X两条线都受益。一台机器同时用两类高价值DRAM,除GPU之外,内存是单机BOM里最贵的部分。 $MRVL:拿下了10GbE这个小插座,但只能挂在英伟达的交换芯片后面,谁掌握话语权一目了然。$AVGO、$ALAB在机柜级PCIe交换和Retimer上的份额,可能被ConnectX-8集成交换这条路线逐步蚕食,值得跟踪。 $AMD:MI355X目前没有对应的桌边产品。开发者"本地写、云端跑"的CUDA工作流,从桌面这一步就被锁定了。 [03] 资本开支与终局推演 先算TCO:1.6kW全年满载约14,000kWh,按$0.15/kWh算约$2,100/年,不到整机价格的3%。在桌面端,电费不是成本,而是上限。整机价格由算力稀缺决定,定价权在英伟达手里。 放到数据中心,逻辑反过来。电网并网排队动辄以年计,每兆瓦能产出多少Token就是营收上限,每Token的边际能耗决定云厂商的毛利。Reasoning慢思考和Agentic多轮调用把输入上下文推到数十万Token,Prefill要的算力和Decode要的带宽之间的错配只会越来越大。 未来2–3年,终局大概率是PD解耦:Prefill交给Rubin CPX这类搭GDDR7、算力密度高、对带宽不敏感的专用单元;Decode交给大容量HBM池;两边之间用800G升级到1.6T的RDMA链路传KV Cache。DGX Station两机互联,就是这套架构在桌面上的预演。受益链条很清楚:算力与NIC看$NVDA,封装看$TSM,HBM看$MU,机柜液冷与供配电看$VRT。 [04]权威信源与原文追踪 • 深度拆解出处:ServeTheHome (STH) • 原文深度报告:https://www.servethehome.com/msi-xpertstation-ws300-review-nvidia-dgx-station-gb300/
曝光 9 · 评论 0 · 点赞 0 · 书签 0
查看原帖