TwKit

Meta 开源 816B 大模型:你的 Mac 跑得动吗?和千问、Kimi、GLM 比又怎样

@QwenAIFans · 2026-10-16 22:19

先说结论 内存不到 512GB,别想了,本地跑不动。 有一台 512GB 的 Mac Studio(M3 Ultra),今天就能跑 2-bit 或 3-bit 量化版,每秒 18 到 21 个 token。 Meta 宣传的"两台 Mac Studio 就能跑",说的是 4-bit 的 NVFP4 版本,要 700GB 起步,而且 512GB 版的 M5 Ultra 要到十月底才发货。 跟中国开源模型比:Agent 类任务它赢,写代码它输。Meta 自己发的对比表里,Terminal-Bench 2.1 四家垫底。 API 价格每百万 token 输入 1.25 美元、输出 4.25 美元,是 DeepSeek V4.1 Flash 闲时价的 7 到 8 倍。 这是个什么模型 10 月 15 日,Meta 在 Hugging Face 放出 Muse Spark Open 的权重: 总参数 8160 亿,每个 token 激活 420 亿(MoE,每层 256 个专家,选 8 个) 上下文最长 100 万 token 能看文字、图片、视频、音频,输出只有文字 Meta 的说法是"美国迄今最强的开源权重模型" Llama 之后,Meta 沉寂了一阵,这次算是重回开源。Nathan Lambert 的反应很有代表性:"等美国开源模型重新有存在感,我等了太久。" 本地跑:按内存对号入座 数字来自 Hugging Face 官方发布博客和模型卡: 2-bit(llama.cpp):约 304GB,一台 512GB M3 Ultra Mac Studio,每秒 18 个 token 3-bit(MLX):约 344GB,同一台机器,生成每秒 21 个 token,预填充每秒 225 个 NVFP4(4-bit):700GB 起,两台 512GB M5 Ultra,或一台 B200 服务器,速度官方未公布 BF16 原版:约 1.5TB,32 张 H200(4 台 8 卡),不用想了 几个容易踩的坑: 100 万上下文不是白送的。 满上下文时,光 KV cache 在 BF16 下就要约 266GB。模型装下了,长上下文不一定装得下。宣传的上下文和你买得起的上下文,是两个预算。 2-bit 会掉智商。 420 亿激活参数的 MoE 压到 2-bit,质量损失有多大,目前没人公布过靠谱的测试。先拿你自己的任务试,别直接上生产。 钱。 VentureBeat 算过:一台 256GB 内存的 M5 Ultra Mac Studio 售价 10,799 美元。512GB 版价格还没公布。所以"桌面就能跑"的意思是"桌面上放着一辆车的钱"。 和中国开源模型比 Meta 发布时自己做了对比表,拉来的对手是 Kimi K3、GLM 5.3、千问 Qwen 3.8(VentureBeat 整理): Terminal-Bench 2.1(终端编程):Kimi K3 85.0|GLM 5.3 83.9|Qwen 3.8 82.0|Spark Open 76.4 DeepSWE 1.1(软件工程):Kimi K3 68|GLM 5.3 67|Spark Open 60|Qwen 3.8 57 JobBench(职场任务):Spark Open 61.8|GLM 5.3 61.4|Kimi K3 54.3|Qwen 3.8 52.7 MCP-Atlas(工具调用):Spark Open 89.2|Qwen 3.8 84.5|GLM 5.3 84.2|Kimi K3 82.3 AA 智能指数:GLM 5.3 45|Kimi K3 44|Qwen 3.8 40|Spark Open 39 看点: Agent 和工具调用它确实强,JobBench、MCP-Atlas 都是第一。 写代码明显落后。Terminal-Bench 比 Kimi K3 低了 8.6 分。 第三方 Artificial Analysis 的综合指数里,它排在 MiMo-V2.6-Pro(46)、GLM-5.3(45)、Kimi K3(44)后面。 更有意思的是对手名单本身。这两天西方发了好几个模型:微软 MAI-Base-2、Black Forest Labs 的 FLUX 3 Klein、Meta 这个,还有同一天 Reflection AI 开源的 Beam(5010 亿参数,Apache 2.0)。拿来对比的开源对手,清一色是中国模型。对手选谁当尺子,比任何榜单都说明问题。 价格 每百万 token(VentureBeat 整理): Spark Open(Together AI):输入 1.25 美元,输出 4.25 美元 DeepSeek V4.1 Flash(闲时):输入 0.15 美元,输出 0.60 美元 GLM-5.3:输入 1.40 美元,输出 4.40 美元 Kimi K3:输入 3.00 美元,输出 15.00 美元 和 GLM-5.3 几乎同价,比 Kimi K3 便宜不少,但离 DeepSeek 很远。 许可证:不是 Apache,细节要看 用的是 Meta 自己的 Muse Model License: 可以微调、蒸馏、合并、商用,产出归你。 产品里要显著标注 "Built with Muse Spark Open"。 如果你拿它对外卖 API,并且公司年收入超过 2000 万美元,要先通知 Meta、另签协议。做进自己的产品不受这条限制。 Hugging Face 下载要申请:填法定姓名、出生日期、公司全称和注册信息,提交后不能改,填错可能影响你访问其他模型。 对比一下:同一天的 Reflection Beam 是 Apache 2.0,千问大多数开源模型也是 Apache 2.0。 最后的清单 内存 ≥ 512GB?没有就用 API,或者继续用千问、GLM。 主要写代码?Kimi K3、GLM 5.3 目前更强。 主要做 Agent、工具调用?值得一试。 要对外卖服务、公司年收入超 2000 万美元?先看许可证。 申请权限前,信息一次填对。 美国开源模型回来了,这是好事。但"回来了"和"领先了"之间,还隔着一张 Meta 自己画的表。 来源 Hugging Face 模型卡:https://huggingface.co/meta-models/Muse-Spark-Open-816B-A42B Hugging Face 发布博客:https://huggingface.co/blog/meta-muse-spark-open VentureBeat(对比表、价格、许可证、Mac 价格):https://venturebeat.com/technology/meta-unveils-muse-spark-open-the-new-top-u-s-open-weights-model-and-it-runs-on-two-paired-mac-desktops The Decoder:https://the-decoder.com/muse-spark-open-is-metas-answer-to-qwen-glm-and-kimi-in-the-open-weight-race/ 许可证细节:https://www.orcarouter.ai/blog/muse-spark-open-best-us-open-weight-model Reflection Beam:https://venturebeat.com/technology/reflections-beam-aims-to-undercut-chinese-open-models-with-fewer-tokens-not-cheaper-tokens

曝光 631 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 3.974926733011806

TwKit
正在载入