用两张五六年前的显卡，跑开源 Qwen 3.8模型，居然比付费云端GLM模型还快！ 开发者pkillsleep用 RTX 3090 + 3080 Ti、80… · @BeyondTheBoxCN · TwKit

@BeyondTheBoxCN

用两张五六年前的显卡，跑开源 Qwen 3.8模型，居然比付费云端GLM模型还快！ 开发者pkillsleep用 RTX 3090 + 3080 Ti、80GB 内存，通过 Strata 在本地运行 Qwen 3.8 Flash Next（IQ3_S 量化版），挑战通过 http://Z.ai 付费 API 调用的 GLM-5.3-Flash。 给两个模型完全相同的任务：编写一个家庭电脑工作台场景，实现完整的 24 小时昼夜变化、太阳运动和灯光动画。 结果很有意思： 本地 Qwen：7 分 55 秒，113.3 tokens/s 云端 GLM：11 分 41 秒，54.4 tokens/s 两边都完成了任务。视频上方是 Qwen，下方是 GLM。单看画面，我甚至觉得 Qwen 的场景更精致，窗外城市、灯光和桌面细节都做得相当不错。 更让我感兴趣的是，这套本地方案使用的还是 RTX 30 系列显卡。虽然两张显卡加 80GB 内存的硬件门槛不低，但对已经拥有这些设备的开发者来说，吸引力很明显。 作者已经开始考虑：等 Qwen 4 Flash Next 发布，自己是不是就可以取消云端 AI 订阅了？ 我觉得这个想法越来越现实了。如果本地模型能持续保持这样的进步速度，未来很多 AI 编程任务完全可以交给自己的电脑完成。开源云端模型的订阅费，恐怕真的需要重新算算值不值了。 https://x.com/pkillsleep/status/2114991237623341455/video/1

曝光 52 · 评论 0 · 点赞 0 · 书签 0