TwKit
正在载入
TwKit

想买 RTX Spark 笔记本装 Linux 跑本地大模型的,先看这个再下单。 MindStudio 的作者在 MSI 一台 RTX Spark 笔记本上… · @AChaiNotes · TwKit

@AChaiNotes

想买 RTX Spark 笔记本装 Linux 跑本地大模型的,先看这个再下单。 MindStudio 的作者在 MSI 一台 RTX Spark 笔记本上做了对比:同样跑 GPT-OSS-120B,Windows 大约 65.4 token/秒,WSL 65.1,原生 Linux 只有 13.9,差不多打了两折。 他的解释是:插电状态下 Linux 里 GPU 被锁在约 780 MHz,Windows 能到约 2.2 GHz。负责供电调度的那套 Nvidia 组件只有 Windows 版,固件里的电源表还是加密的。连默认划给 GPU 的 96GB 统一内存,也只能在 Windows 里改。 作者给的建议是先用 WSL。 这是第三方单人实测,Nvidia 还没回应,但很能说明一件事:本地部署别只看显存和算力参数,驱动和固件支不支持你的系统,可能才是决定性的。 你本地跑模型用的是 Windows、Linux 还是 Mac?

曝光 19 · 评论 0 · 点赞 0 · 书签 0

查看原帖