💥千问3.8-27B 不是纯文本，默认还扛着视觉塔 很多人当聊天模型往卡里塞，却忘了它是原生多模态：config 里带 vision_config。 vLL… · @QwenAIFans · TwKit

@QwenAIFans

💥千问3.8-27B 不是纯文本，默认还扛着视觉塔 很多人当聊天模型往卡里塞，却忘了它是原生多模态：config 里带 vision_config。 vLLM 官方菜谱在单卡 RTX 5090、32K 上下文实测： 只开 --enforce-eager，KV 池大约 9.1 万 token 再加 --language-model-only，跳到大约 13.6 万 同一张卡，只聊天却把视觉编码器一起塞进去，上下文直接少一大截。 温馨提示：纯文本服务记得加 --language-model-only；要看图再别关。 来源：vLLM Recipes👇 https://recipes.vllm.ai/Qwen/Qwen3.8-27B

曝光 378 · 评论 2 · 点赞 4 · 书签 2