路透说字节阿里腾讯订了 300 万块英伟达的卡，一块 8.5 万 我们家里就一张 24G 的卡，跑 27B 本地模型，开了 MTP 每秒 60 个 toke… · @wy_ones · TwKit

@wy_ones

路透说字节阿里腾讯订了 300 万块英伟达的卡，一块 8.5 万 我们家里就一张 24G 的卡，跑 27B 本地模型，开了 MTP 每秒 60 个 token，不开只有 30 你家那张卡，现在每秒跑多少？

曝光 20 · 评论 2 · 点赞 0 · 书签 0