TwKit
正在载入
TwKit

卫星被迫关机,视觉语言模型的推理进度能不能留下来? https://arxiv.org/abs/2610.29183 OrbitWeaver按视觉编码、pr… · @vintcessun · TwKit

@vintcessun

卫星被迫关机,视觉语言模型的推理进度能不能留下来? https://arxiv.org/abs/2610.29183 OrbitWeaver按视觉编码、prefill和解码阶段设置检查点,重启后依据层与token块的依赖恢复进度,并把读盘和可重算工作重叠。论文报告端到端最高提速4.07倍、SSD写入减少3.56倍;还在两颗低轨卫星上验证了最长72小时的部署。代价是检查点与恢复调度本身也要占用资源。

曝光 109 · 评论 1 · 点赞 2 · 书签 0

查看原帖