AMD 的卡，这回一块顶了英伟达两块半。 SemiAnalysis 10 月 31 日的 InferenceX 榜单上，跑 Kimi K3 的智能体推理：A… · @chenYijl · TwKit

@chenYijl

AMD 的卡，这回一块顶了英伟达两块半。 SemiAnalysis 10 月 31 日的 InferenceX 榜单上，跑 Kimi K3 的智能体推理：AMD 的 MI355X 每百万 token 只要 0.077 美元，英伟达 B200 要 0.179 美元，差了 2.3 倍。 单卡吞吐更直接：MI355X 每秒每块卡吐 5435 个 token，B200 只有 2677 个，刚好一半。 赢在哪？一多半是内存：MI355X 一台服务器塞了 2304GB 显存，B200 那边不到 1.5TB，上下文一长，英伟达就得跨服务器搬数据，AMD 在一台机器里就装下了。 另一半是软件：AMD 团队调了 AITER 内核和 MonoKernel 解码，SemiAnalysis 的原话是“性价比最多好两倍”。 智能体时代，卡快不快已经不是决胜点，能装下多长的记忆才是。 就连更新的 B300 也没翻盘：同一张榜上，B300 每百万 token 0.166 美元，MI355X 还是 0.093 美元。 下次租算力跑智能体，你站英伟达，还是站 AMD？

曝光 237 · 评论 2 · 点赞 4 · 书签 0