HBM是AI芯片里最贵也最紧的零件之一,它决定了一颗GPU能喂进去多少数据,存储股这一轮的定价权就来自这里。 HBM是高带宽内存,把多层DRAM芯片像楼房一… · @youngstockuser · TwKit
@youngstockuser
HBM是AI芯片里最贵也最紧的零件之一,它决定了一颗GPU能喂进去多少数据,存储股这一轮的定价权就来自这里。 HBM是高带宽内存,把多层DRAM芯片像楼房一样垂直堆叠起来,用穿过硅片的通孔连接,再和GPU封装在一起。普通内存条离处理器远、通道窄,HBM贴着芯片放、通道极宽,带宽高出一个数量级。大模型训练和推理时,算力常常在等数据,内存带宽就是瓶颈。$MU $NVDA $AMD 用量在飞快增加。英伟达Vera Rubin每颗GPU配8颗HBM4、288GB;AMD的MI455X每颗配12颗HBM4、432GB。每一代芯片的HBM容量都在跳,一颗GPU里的存储成本占比越来越高。 做HBM很难。堆叠层数越多,良率越难保证,同样一片晶圆做HBM比做普通DRAM产出少得多。这意味着HBM扩产会挤占普通DRAM的产能,带动整个DRAM市场的价格往上走。全球能大规模供货的只有SK海力士、三星电子和美光三家。 格局在变化。据韩国媒体统计,二季度三星电子的HBM营收份额从21%升到33%,SK海力士从58%降到50%。份额在挪动,总量还在扩大,三家的HBM都处在供不应求的状态。 有人说,HBM产能翻倍之后价格会崩。关键要看合约价,这就是我边界里写的DRAM和HBM转弱那一条,只要合约价不松,存储股的利润就有支撑。 GPU越强,越离不开HBM,存储的话语权就藏在每一层堆叠里。
曝光 1154 · 评论 4 · 点赞 2 · 书签 2
查看原帖