TwKit
正在载入
TwKit

讯飞称这次完全基于国产算力集群,训出了 1M 长上下文和代码智能体能力。今天在 1024 开发者节正式发布星火 X2.6,并同步开源了端侧的 Spark-X… · @jiangkoumo_ · TwKit

@jiangkoumo_

讯飞称这次完全基于国产算力集群,训出了 1M 长上下文和代码智能体能力。今天在 1024 开发者节正式发布星火 X2.6,并同步开源了端侧的 Spark-X2.6-4B 整套方案主打摆脱海外算力依赖和端云协同,重点看这四处: 1、云端 293B-A30B 支持 1M 上下文 云端旗舰模型总参数 293B,每次推理只激活 30B(293B-A30B),兼顾容量与计算开销。针对国产芯片显存和带宽瓶颈,训练端用长程动态并行把超长样本切分给多卡并行计算,训练效率提了约 4 倍;推理端用四层 KVCache 技术把注意力缓存分级存放,计算效率与缓存利用率提升约 4.5 倍 2、端侧开源 Spark-X2.6-4B 并加入思考预算 端侧开源模型 Spark-X2.6-4B 沿用混合注意力架构,同样支持 1M 上下文。权重已挂在 Hugging Face 与 ModelScope 的 XHToken 组织下,包含 Base 全精度以及 INT4、INT8、FP8、GGUF 多种量化格式。首日就有 vLLM、Ollama 和 llama.cpp 适配,llama.cpp 原生支持 spark2_5 架构。模型新增了 none、low、high 三档思考预算(Thinking Budgets),让开发者自己调节回答延迟与推理深度 3、端云按约 60/30/10 协同分工 官方给出的分工策略是约 60% 任务由本地端侧处理,零推理费用且隐私不出域;约 30% 走端云协同动态调度;约 10% 复杂高难任务交给云端大模型。云端 API 定价按百万 tokens 计费:输入 0.9 元、缓存命中 0.08 元、输出 3.6 元,端侧推理目前限时免费 4、对标 DeepSeek-V4.1-Flash 但仍待社区打靶 讯飞宣称星火 X2.6 在代码和 Agent 表现上对标 DeepSeek-V4.1-Flash(1017 快照)。不过 DeepSeek 几天前刚在 DeepSWE v1.1 上把成绩推到 77.0 分,纯国产集群在真实 Agent 闭环与高压长上下文下的工程表现,仍要脱离发布会 PPT,等待社区第三方独立基准测试实测打靶 想折腾端侧本地 Agent 或在本地做私有化部署的,现在可以直接拉 4B 的 GGUF 权重试跑;如果打算接进生产级复杂 Agent 编排,建议等第三方的长上下文与真实代码评测数据出来再做决定

曝光 360 · 评论 2 · 点赞 4 · 书签 0

查看原帖