37999 的本地 AI 笔记本，跑 Qwen3.8-27B 每秒 30 个 token。 说实话，这个速度写代码我等不了，一个上千 token 的回答要等… · @nic0203 · TwKit

@nic0203

37999 的本地 AI 笔记本，跑 Qwen3.8-27B 每秒 30 个 token。 说实话，这个速度写代码我等不了，一个上千 token 的回答要等半分钟。 它适合的是翻译这种小模型活，2B 模型 6 路并发几乎没延迟。 本地模型为了隐私可以！但这速度太慢了吧。

曝光 86 · 评论 6 · 点赞 5 · 书签 0