TwKit

推文

@Fei2411 · 2026-10-14 15:06

看到很多关于本地 AI 的讨论,其实我想说真的,本地模型现在仍然只是一个兴趣向的东西,几乎没什么实际价值,我很期待它未来的表现,但现实情况就是这样: 现在常用的配置,3台 DGX Spark 128GB 的价格大约是 3 × $6,950 = $20,850(约 14 万人民币左右); 对应 Claude Max 20x($200/月):$20,850 ÷ $200 = 104.25 个月,也就是大约 8年零8个月 的 Claude Max 20x。要知道,即使是 $20 每个月对很多家庭都是比不小的支出,更何况是一次性用掉 $20850。 而花钱买 3台 DGX Spark,你目前却只能运行 EXL3 4bpw 量化的 GLM-5.3-Flash,大约 60tok/s。我知道它表现的挺不错的,能完成绝大多数任务,但是它和 80tok/s 的 Opus 5.5 真的差的很远很远,而且 Claude Max 也有 Sonnet、Haiku 这样的模型,使用 Haiku 绝对是相当于无限的用量,并且速度更快、更聪明。 做本地模型的朋友经常拿这个来反驳:AI 订阅不会长久保持 $200 美元。其实我觉得 AI 订阅中能提供的东西会越来越多,但是就先顺着这个思路走,假设 AI 订阅确实会不断的涨价,但是本地 AI呢?看看那些硬件,涨成什么样子了。 DGX Spark今年2月定价还是 $4,699,到现在已经 $6,950 了,涨了近 48%;6月 Mac Studio M4 Max 入门从 $1999 涨到 $2499,M3 Ultra 从 $3999 涨到 $5299美元;到9月新 M5 Ultra 起价进一步涨到 $5499。连几乎运行不了本地模型的 Mac mini 入门价也从 $599 一路被抬到 $800 以上。二级市场更疯狂,每次一有好的本地模型配方,这些硬件就要涨价。 反观 Claude Max 20x 订阅全年仍维持在200美元/月,几乎没动,反而是额度不断的提高。 所以其实结果真的很明显,本地 AI 模型目前仍然只是兴趣向的玩具,谈不上任何性价比。对于部分企业来说,一些核心的内容确实需要保密,这种情况本地模型有其用处,但是对于个人来说,一个“数据保密”根本不足以支撑多花这么多钱却要忍受这么多的体验变差。 Qwen 27B 改变不了这一切。当强大的前沿模型能在消费级本地设备上运行时,硬件厂商就会把它涨到消费者买不起的水平,历史已经无数次重演。 事实就是如此。我个人非常期待本地模型未来的发展,我也认为未来本地模型是 AI 平权的答案之一,我也非常支持并且赞叹本地模型社区的工作。但是本地模型要真的发展到人人可用,并且成为可靠的第一选择,还有很长很长的路要走。从现在看,真的没有任何理由去推荐任何人用本地模型,除了兴趣。

曝光 358 · 评论 6 · 点赞 7 · 书签 0

TwKit
正在载入