TwKit
正在载入
TwKit

本地跑大模型的门槛,正在从「买显卡」变成「挑量化」! 这条帖子就两句话: 「Deepseek-V4.1-Flash now runs on 64GB of … · @xaiwind · TwKit

@xaiwind

本地跑大模型的门槛,正在从「买显卡」变成「挑量化」! 这条帖子就两句话: 「Deepseek-V4.1-Flash now runs on 64GB of RAM with Strata」, 用的是 @mhelcig 做的 GSQ-RCO 量化, 配了一段 20 秒的演示。 大家默认在算:我的显卡够不够大,显存够不够多。 但真正的分水岭在「RAM」这三个字母! 帖子写的是 64GB 内存, 不是要你去抢一张顶级显卡。 卧槽,这让我想起以前看高清电影得买蓝光机, 后来压缩格式一换,普通电脑就能放了。 换的不是机器,是编码方式。 最该紧张的是靠转卖 API 赚差价的小平台, 用户在家能跑,就不一定再按量付费。 留个清醒:帖子没给速度,也没给效果对比, 「能跑」和「跑得好用」中间还隔着实测。 量化做得好,等于把机房搬上了你的书桌! https://x.com/coldniko/status/2113835370869583983/video/1

曝光 108 · 评论 4 · 点赞 0 · 书签 0

查看原帖