英伟达1200亿参数模型免费白嫖,充钱买API的全亏了 作者是朱利安·高迪(Julian Goldie),一个有 42 万 YouTube 订阅的 AI 实… · @swordBluesy · TwKit
@swordBluesy
英伟达1200亿参数模型免费白嫖,充钱买API的全亏了 作者是朱利安·高迪(Julian Goldie),一个有 42 万 YouTube 订阅的 AI 实战派博主,专门测各种 AI 智能体是不是真能干活。英伟达 10 月 15 日刚发布开源大模型 Nemotron 3.5 Super VL,他第一时间把"怎么免费玩转它"测了个遍,写成这篇攻略。 以下按原文完整编译。全文核心只一句话:1200 亿参数的顶级开源视觉模型,有四条路可以一分钱不花用上,付费版反而是给重度用户准备的。 一、这是个什么模型 Nemotron 3.5 Super VL,英伟达 2026 年 10 月 15 日发布的开源多模态智能体模型。混合专家架构,总参数 1200 亿,实际激活 120 亿。文本、图像、文档、视频理解全塞进一个模型,推理、指令遵循、工具调用一次配齐,定位就是给 AI 智能体当"眼睛+脑子"。 权重完全开放,许可证 OpenMDW-1.1,允许商用。发布渠道:Hugging Face、OpenRouter、ModelScope、英伟达 NIM。 作者先把话说实在:这不是前沿模型,干不了最难的活,替代不了 Claude Opus。但它免费、开源、速度快,还能看图——而智能体一半的活,恰恰是从"看一张图"开始的。 二、免费路线一:OpenCode,下拉菜单直接选 最快的一条路。打开 OpenCode,在模型下拉菜单里直接选 Nemotron 3.5 Super VL,当场就能用,一分钱不花。 作者实测就是这么玩的:选上模型,扔一张截图过去问问题,几分钟验证完毕。注意作者的原话是"写稿时免费"——新模型的免费窗口经常在发布期后收紧,想白嫖趁早。 三、免费路线二:OpenRouter 免费版,模型 ID 抄走 OpenRouter 上有两个版本。免费版的模型 ID 是: nvidia/nemotron-3.5-super-vl:free 上下文约 100 万 token,代价是有速率限制。用法和调任何 OpenAI 兼容接口一样,把 base_url 指向 OpenRouter,模型名填上面这个 ID 就行。 作者的建议:把免费版当主力日常用,批量大任务再切付费版——付费版输入每百万 token 0.15 美元、输出每百万 0.50 美元,104 万上下文,这个价格在商用模型里算地板价了。 四、免费路线三:Hermes Agent,独立 profile 接入 如果你用 Hermes 这类智能体框架,作者给了一套标准接法:新建一个独立的 profile(别动你原来的主力配置),在里面选 OpenRouter,再选 nvidia/nemotron-3.5-super-vl:free。 然后扔一张测试截图+一个问题过去,通了就把你第一个"看图干活"的任务做成 skill,排进日程。撞上限了就把这个 profile 切到付费版或另一个免费模型——你的 skill 和记忆原封不动,换模型不换工作流。 五、免费路线四:本地权重下载,70GB 内存起步 权重在 Hugging Face、Ollama、LM Studio 都能下。但"本地免费"有个硬门槛:Ollama 的构建包 80-90GB,LM Studio 最小的也要约 70GB,内存低于 70GB 就别想了。英伟达的全精度版更是为多卡数据中心设计的。 作者的结论很直接:对绝大多数人,前面三条云端免费路线才是现实的选择。 六、真要自己部署:官方 vLLM 命令 这是 Hugging Face 官方模型卡给的启动命令(面向 DGX Spark): 服务起来后 curl http://localhost:8000/v1/models 验证,通了就是一个 OpenAI 兼容接口,LangChain、LlamaIndex 直接对接。 七、免费的视觉模型能干什么正事 作者列了一串以前要花钱、现在免费能干的活:收据照片转表格、PDF 报告里抠数字、竞品定价截图抓取、幻灯片总结、客户报表里的图表解读。以前这些要么人工抄,要么买付费 OCR 服务,现在一个智能体全包了。 他的测试方法:挑一个你现在手工干的看图任务,这周就交给免费版。如果一周能省 15 分钟,这模型就值得留在你的工具栈里。 八、避坑三条 第一,免费有名额限制:把同类任务批量一起发,别一次发几十个小请求;图片裁到只剩关键部分,省 token。 第二,永远备一个备用免费模型。撞上限时切过去,工作流不断。 第三,免费窗口随时可能结束。工作流设计时就把模型做成可替换的(比如 Hermes 里独立 profile),免费没了就换下一个,姿势不变。 S1哥观点 争论点一:英伟达为什么免费?1200 亿参数的模型说送就送,图什么?图的是生态——你用它的模型,就得用它的 NeMo 工具链、它的 GPU、它的 NIM 服务。模型免费,算力收钱,这账英伟达算得比谁都精。觉得"英伟达做慈善"的,太天真了。 争论点二:免费模型能不能干正事?作者自己都承认干不了最难的活。但反过来说,多少人付着 Claude 的钱,干的却是"截图转表格"这种免费模型就能干的活?杀鸡用牛刀,用完还嫌贵,这才是真亏。 争论点三:这对 API 生意是降维打击。OpenRouter 上付费版 0.15 美元/百万 token,免费版直接零元——以后"按 token 卖智能"的中间商,日子只会越来越难。卖模型的都在免费,买单的只剩卖卡的。 原文链接:https://juliangoldie.com/nemotron-3-5-super-vl-free/ 原文:@JulianGoldieSEO(由 S1哥 编译
曝光 210 · 评论 0 · 点赞 1 · 书签 0
查看原帖