推文

@zouyanjian · 2026-10-13 08:00

2.5B 激活参数，买显卡仍得看 12B 总权重；Mellum2.1 值得试，显存账别算小了 JetBrains 上周开放的 Mellum2.1 是混合专家模型。总参数 12B，每次计算激活 2.5B，许可证是 Apache 2.0。激活参数少，能省计算；常规部署仍要装下完整权重，量化、卸载等方案另算 模型卡标的上下文上限是 131,072 token。上下文越长，运行时还得给缓存留空间。光看「小模型」三个字就选机器，长任务跑起来可能发现并发根本加不上去 这次更值得看的变化在训练。架构没改，JetBrains 把强化学习放进真实仓库，让模型用 shell 和文件工具改代码，测试通过才给奖励。它还专门过滤了测试坏掉、答案无法核对的训练任务 同一套厂商自测里，SWE-bench Verified 从 Mellum2 的 2.0% 到 2.1 的 47.0%。这说明训练方向有进展，不能直接当成自家仓库的修复成功率 想自托管，我会先拿能复现失败的内部任务试，记录峰值显存、长上下文速度和补丁是否过测试。模型权重能装下，只是开始；再把并发加上去，才知道这台机器能接多少活 大家试本地 coding agent，最先卡住的是显存，还是修完之后测试仍过不了？

曝光 11 · 评论 0 · 点赞 0 · 书签 0