TwKit
正在载入
TwKit

两天!!!两堵墙!!!英伟达的 CUDA 同时被拆??? 美国这边,Google 和 Meta 的 PyTorch 团队开源了 TorchTPU,让 PyT… · @GKev1n · TwKit

@GKev1n

两天!!!两堵墙!!!英伟达的 CUDA 同时被拆??? 美国这边,Google 和 Meta 的 PyTorch 团队开源了 TorchTPU,让 PyTorch 原生跑在 Google 的 TPU 上,号称把 .to("cuda") 改成 .to("tpu") 就能迁。官方拿 4917 个 Hugging Face 热门模型测,98% 能跑通。 中国这边,DeepSeek 开源了自家推理框架 DeepInfer,官方支持的硬件除了英伟达 Blackwell,还写了华为昇腾 950。 但两边都是"能跑",不是"跑得一样好": 1. TorchTPU 官方承认这么改到不了峰值性能,FlexAttention 也还不支持 2. DeepInfer 只支持 V4.1-Flash 一个模型,只做推理,性能数字全是英伟达卡上测的,昇腾一个数都没给 CUDA 墙上开了两道缝,你们谁先迁???

曝光 47 · 评论 1 · 点赞 1 · 书签 0

查看原帖