家里一张 24G 的卡跑一个 27B 模型，开了投机解码，才从 30 tok/s 提到 60，我站自己机器这边 你用 AI，是宁可慢点也跑在自己机器上，还是… · @wy_ones · TwKit

@wy_ones

家里一张 24G 的卡跑一个 27B 模型，开了投机解码，才从 30 tok/s 提到 60，我站自己机器这边 你用 AI，是宁可慢点也跑在自己机器上，还是快就行？

曝光 55 · 评论 2 · 点赞 1 · 书签 0