TwKit
正在载入
TwKit

先泼点冷水:论文里的 GLM-Omni 是从 GLM-4.1V-Thinking 的预训练基座初始化的,整篇是个受控探测实验,用的全是虚构实体,每类 50 … · @prolibertine · TwKit

@prolibertine

先泼点冷水:论文里的 GLM-Omni 是从 GLM-4.1V-Thinking 的预训练基座初始化的,整篇是个受控探测实验,用的全是虚构实体,每类 50 个、一共 8552 张图。拿它去推 GLM-5.4/5.5 有点远。 结果倒是挺值得看。只靠生图训练,GLM-Omni 能把新知识画对 54%,用文字答对只有 14.57%,比随机猜的 15.96% 还低。加上图文交错对齐升到 26.86%;把交错样本里图像那部分的 loss 去掉,又掉回 13.71%。让它先画一张再回答(Visual CoT)能到 41.14%,球衣号码这一类从 0 拉到 36%。 放到 agent 记忆上,同一个毛病也在:东西存进去了,换一条查询路径未必拿得出来。存和取走的不是同一个口子,先把原样调出来再答,比直接问准得多。arXiv 2610.21459

曝光 5 · 评论 0 · 点赞 0 · 书签 0

查看原帖