大模型层数居然能在运行时随意变？NVIDIA 正式开源循环语言模型 Dory 1.0 🔄💡 同一个模型权重，想要超低延迟就跑 1 圈循环，想要复杂推理就跑 … · @HYJsfn9h · TwKit

@HYJsfn9h

大模型层数居然能在运行时随意变？NVIDIA 正式开源循环语言模型 Dory 1.0 🔄💡 同一个模型权重，想要超低延迟就跑 1 圈循环，想要复杂推理就跑 4 圈深度循环！老黄团队开源的 4B 模型 Dory 1.0 引入了极具颠覆性的弹性深度循环架构，无需下载多个尺寸模型，单一 Checkpoint 即可按需分配计算开销！ 端侧设备与边缘硬件的算力分配难题被彻底攻破，固定结构的传统 Transformer 正在被重新思考！

曝光 20 · 评论 2 · 点赞 2 · 书签 0