半导体研究机构 SemiAnalysis 近期公布昇腾 950PR 的实测结果：在 1055 组大模型常用的矩阵计算中，华为自己的底层程序已让芯片发挥出自身… · @ThanksuTrump · TwKit

@ThanksuTrump

半导体研究机构 SemiAnalysis 近期公布昇腾 950PR 的实测结果：在 1055 组大模型常用的矩阵计算中，华为自己的底层程序已让芯片发挥出自身可达算力的 86%，高于英伟达 H100 的 75.5%。实际运算吞吐量的中位数却只有 H100 的 43%，相对更新的 B300 更只有 21%。 DeepSeek 正从软件侧减少芯片搬运数据和等待的时间。注意力计算库 FlashMLA 调整存储方式后，原本需要分两次读取的数据一次就能取齐；另一套工具 TileLang 则让芯片可以边计算边提前加载下一批数据。SemiAnalysis 实测，自动调度让部分小型计算任务的耗时最多缩短约 40%。负责 MoE 专家跨芯片通信的 DeepEP 也推出了昇腾版，但通信和计算仍会争抢内存带宽，华为计划继续改进固件。 去年 DeepSeek 尝试用昇腾芯片训练 R2，即便有华为工程师驻场协助也没能跑通，芯片稳定性、跨卡通信和软件支持都存在问题。今年双方继续深入合作，9 月底 DeepSeek 集中公开了六套昇腾适配代码，10 月《The Information》披露华为正在按照 DeepSeek 的模型需求调整下一代芯片设计。 目前报告还没有测出这些软件优化能让完整模型提速多少。此次测试的 950PR 主要用于推理输入处理，DeepSeek 准备最快年底用于大规模预训练的是 950DT。

曝光 111 · 评论 3 · 点赞 1 · 书签 0