智谱创始人现场拆解GLM-5.3-Flash · 话题榜 · TwKit
AI科技 · 1 帖 · 1 位作者 · 曝光 45258
一条推文介绍智谱创始人唐杰在清华拆解GLM-5.3-Flash结构，并强调其低成本使用前沿智能的定位。
- 整理智谱GLM-5.3-Flash的结构拆解与发布信息
- 解释低成本使用前沿模型的技术主张
- 讨论模型结构公开对开发者采用的影响
- 核实演讲内容与推文对性能的概括是否一致
@NFT_Chen
💥太硬核了吧！智谱Zai创始人唐杰教授在清华现场拆解GLM-5.3-Flash结构！解释为什么前沿智能第一次可以“随便用”！ 唐杰老师对着屏幕把GLM-5.3-Flash的核心架构摊开： IndexPool for Sparse Global Retrieval 🔹混合注意力：线性状态更新 + 稀疏全局检索 🔹IndexPool：把四个indexer key做加权池化，直接砍掉索引器的计算和缓存开销 🔹结果：注意力计算量比大杯低约3倍，KV Cache再砍4倍+，1M上下文终于变得可负担 这不是实验室玩具。 320B总参、18B激活、原生多模态、MIT开源。能力对标Claude Opus 4.8，价格却只有它的1/40，大杯GLM-5.3的1/10。 更狠的是，生产流量已经跑在超10万块国产加速器上，模型自己驱动的Infra Agent两周内把端到端吞吐拉高3.2倍。 “模型优化系统，系统服务模型”的最小闭环出现了。 清华课堂上，把前沿模型的成本结构直接拆给下一代看，这画面，本身就够炸。 #智谱 #GLM53Flash #唐杰 #清华大学 #国产算力 #AI开源 #IndexPool #Zai #Zcode
查看原帖