1 万亿参数的模型，权重直接挂上 Hugging Face，这是 Mistral Large 4， 每个 token 激活大约 520 亿参数，100 万上… · @boniusex · TwKit

@boniusex

1 万亿参数的模型，权重直接挂上 Hugging Face，这是 Mistral Large 4， 每个 token 激活大约 520 亿参数，100 万上下文，能看图，推理强度分低中高三档，在 Mistral 自己位于欧洲的机房里用 3800 张英伟达 Grace Blackwell 从零训出来， 我觉得最值得说的是最后这点，欧洲终于有了一家自己有机房、自己训万亿模型的公司， 许可证可以商用，但拿它做模型即服务要另签商业许可，想直接拿来卖 API 的先看清楚。

曝光 90 · 评论 0 · 点赞 0 · 书签 0