推文
@realWeZZard · 2026-10-07 11:42
跟 GPT-6 讨论了非常久关于是否购买 170HX 的问题。然后又一次感觉被 AI drive 到了。 平时我们花钱更多的是和我们吃穿用度相关,而不是 CapEx。GPT-6 告诉我,花掉一笔 CapEx 之前,不应该只看它省了多少,而应该看: 当前产出 + future option + 风险保险 + 流动性 − 持有成本 − 锁定成本 当前产出:非常高 170HX 当前的产出针对个人使用是高的,但是严重依赖 workload。 Future Option:零 一旦新模型更换架构,或者更改主力权重,即意味着 170HX 持有者自行调整推理引擎,自己做量化,或者傻等社区。所以这点基本上可以算作 0。我自己做量化和写算子,需要耗费我自己的注意力;如果是商单,需要消耗一个工程师的 HC 和人力成本。看起来就是亏。 风险保险:仅能保障容量风险,不能保障未来风险 这张卡可以极大地增加 home lab 的并发容量,但是并不保证新模型一定可以被及时部署到这张卡上。对于商业公司来说,这即意味着选择这张卡需要承担一定时间的落后。 流动性:弱 这张卡的特点决定了它的购买者一定是可以自己决定跑什么模型、什么版本、什么 runtime、什么 SLA 的人。所以要么是技术能力极强的超级个体,要么是将 170HX 作为不良资产打包重组后对外销售、对外脱离了模型这一层销售服务的人。 持有成本:极高 目前这张卡和 A100 80G 的市场公允价差并没有达到十一甚至百一的价差。但是,持有这张卡和持有 A100 所需要付出的机房成本以及电力成本是一模一样的。而它独特的运维成本,很有可能在第一年就吃光所有的价差。 锁定成本:极高 选择这张卡,即意味着选择了它的所有缺点:新模型的部署不及时。坏了要自己找资源修。或者当你忍受不了这一切的时候,你选择换硬件。然后这个时候你会被流动性 trap 住。 反过来看,900 左右的 8 卡 T10 就实惠得不能再实惠了。对于我来说,实惠的原因是因为它确实能跑我的一个已经跑通的流程,所以在 CapEx 方面,是为当前的需求买单,并且为 DGX Spark 解锁了容量。 不过现在 T10 的价格已经被炒高了,我也不建议大家去买。考虑到要玩游戏以及更泛用的模型部署可能性,我还是推荐大家买 2080 Ti 22G 双卡 NVLink。特别是如果你有 MiniMax H3 的需求的话。 另外对于我来说,既然有时间为 170HX 写算子和做量化,为什么不去做一些其他更加有趣的事情?
曝光 6951 · 评论 7 · 点赞 19 · 书签 12 · 曝光/时 44.17726451704685