TwKit
正在载入
TwKit

小路带您精读Mistral Large 4最新博客! 读了 Mistral 最新发布的 Mistral Large 4 官方博客,推荐给您。1万亿参数,每次… · @Zen_with_AI · TwKit

@Zen_with_AI

小路带您精读Mistral Large 4最新博客! 读了 Mistral 最新发布的 Mistral Large 4 官方博客,推荐给您。1万亿参数,每次激活520亿,原生多模态,官方内部叫它 le Chonk。跑分之外,这篇博客最值得看的是它选的主打方向:网络安全。 主线可以压成一条链: 规模->能力->立场->训练->后续 (1T/52B 参数->编码、Agent、多模态、知识工作->开放权重加网络安全->大规模强化学习->权重和架构细节) 一步一步看。 规模。ML4 在 Mistral 自己位于欧洲的数据中心里,用3,800块 NVIDIA Grace Blackwell GPU 从头训练,训练数据覆盖160多种语言,包括欧盟全部官方语言。10月6日开放的是公开预览版 API,输入 0.7 美元、输出 2.1 美元每百万 token,权重承诺月底发布。 能力。编码方面,DeepSWE v1.1 得分 61.7%,Terminal-Bench 4 得分 28.3%。Surge AI 的盲评里,ML4 预览版在五个模型中排第二(3.74分),前面只有 Claude Opus 5(4.22分),后面是 GLM-5.3、Kimi K3 和 GLM-5.2。Agent 方面,657个业务流程的 AutomationBench 得分 59.9%。视觉定位的 Dense 200 上,ML4 是 42%,GPT-6-Astra 是 41%。法律和金融方面,第三方 http://vals.ai 的评测显示它超过 GPT-6-Astra。 立场。博客把网络安全放在最前面。在 Artificial Analysis Cyber Index 上,ML4 进入全球前五,在中国以外开发的开放权重模型里大幅领先。指数里有一项测试,要求模型复现开源软件里的真实漏洞再打补丁,ML4 得分 82%,Mistral 称这是所有模型里最高的。Cybench 的40道题,它解出93%。Mistral 的解释是,Claude Opus 5.5 和 GPT-6 Astra 等几个闭源模型在同一项测试里接近零分,因为它们拒绝执行。防守方要先证明漏洞存在,这正是闭源模型的安全过滤容易拦住的工作。所以 Mistral 的论点是:开放权重加自部署,能让组织按自己的政策做安全工作。 训练。强化学习这一节写得比较具体。一个共享、可组合的接口,让同一次训练里同时跑单轮对话、科学难题、安全对齐、事实性和长程工具调用。奖励来自奖励模型、单元测试、LLM 评委和静态检查的组合。在3k GPU 的规模下,一次训练每天产生约330亿 token,其中约160亿是过滤和掩码之后的可训练补全 token。Rollout 预算可以到数百万 token,中间经过多次压缩。 小路的几点保留: 1. 网络安全这条论证里有一处,同一篇博客说,ML4 在 JailbreakBench、StrongREJECT、AgentHarm 的网络安全提示上,平均拒绝率高于所有开源模型。也就是说,它既要在防守任务里不拒绝,又要在恶意请求里拒绝。 模型怎么把这两类请求分开?博客没有展开。 2. 比较对象有区别。博客说它明显超过美国和欧洲开发的任何开放权重模型,对中国开发的开源模型,措辞只是"有竞争力"。 简单总结一下就是:ML4 的卖点是 1T 参数的开放权重、欧洲自有算力,以及在网络安全任务上不因拒绝而缺位。这些数字能不能站住,要看权重放出之后别人的复现。 原文:https://mistral.ai/news/mistral-large-4/

曝光 515 · 评论 2 · 点赞 6 · 书签 0

查看原帖