RTX Spark 起步款跑不动它宣传的 120B OpenClaw 的播客 ClawCast 第 14 期(10 月 21 日,58 分钟)请了 NVID… · @0xwolverines · TwKit
@0xwolverines
RTX Spark 起步款跑不动它宣传的 120B OpenClaw 的播客 ClawCast 第 14 期(10 月 21 日,58 分钟)请了 NVIDIA 的 Apoorv Chaudhary 聊 RTX Spark 和本地 AI。主持人一直追问成本和局限,最后也没劝谁买哪台机器。我认同这个态度:RTX Spark 的宣传和起步配置差了一大截。 先看官方参数。N1X 最高 20 核 Grace CPU、6,144 核 Blackwell GPU、1 petaflop FP4 算力、128GB 统一内存,产品页写着「Run models up to 120B parameters with 1M context」。10 月 16 日六家厂商同时开卖,新闻稿给的起步价是 2,599 美元,可 NVIDIA 商城里最低的内存配置只有 24GB。 算一下内存。120B 参数按 FP4 每个参数 0.5 字节,光权重就要约 60GB,128GB 的机器剩下约 68GB 给上下文缓存和系统;24GB 的版本连一半权重都放不下。NVIDIA 自己 3 月发的 OpenClaw 本地部署指南很实在:24GB 以上的显卡推荐 Qwen 3.6 27B,128GB 的 DGX Spark 推荐 Qwen 3.6 35B,上下文至少 32K、建议 64K。真跑智能体,官方推荐的就在 27B–35B 这个区间。 我的看法:OpenClaw 这种常驻的智能体适合放在本地。指南里那句「Cloud LLMs can incur significant costs due to the always-on nature of OpenClaw」说的是实情,隐私也是。要买就买 64GB 以上;24–32GB 的版本只够日常自动化,写代码、长链路任务还是交给云端前沿模型,两边混着用。指南还建议把智能体放在单独的电脑或虚拟机里、用专门的账号,这条比选哪台机器更要紧。什么情况我改主意:NVIDIA 公布 128GB 版本在 1M 上下文下跑 120B 的实测速度,而且能撑住智能体连续调用工具。 你的智能体一个月 API 账单多少?2,599 美元的机器,你要几个月回本?
曝光 22 · 评论 0 · 点赞 1 · 书签 0
查看原帖