Qwen3.5-9B 免费开源,6.6GB 就能在本地跑,我刚在一台 4 核 ARM 服务器上实测完 参数清单: 9B 参数 Q4_K_M 量化 6.6GB… · @jojeangsaing · TwKit
@jojeangsaing
Qwen3.5-9B 免费开源,6.6GB 就能在本地跑,我刚在一台 4 核 ARM 服务器上实测完 参数清单: 9B 参数 Q4_K_M 量化 6.6GB 256K 上下文 支持看图、工具调用、思考模式 Apache 2.0 协议,可商用 实测结果(4 核 ARM、纯 CPU、无显卡): 文本生成 3.9–5.2 tok/s,日常问答够用 常驻内存约 6.2GB 看图能用,但有个坑:原图编码极慢,喂图前先缩成小图,缩略图 97 秒跑通,描述准确 参与方式: 装好 Ollama 执行 ollama pull qwen3.5:9b 执行 ollama run qwen3.5:9b 直接开聊 一句话结论:没有显卡的普通服务器,现在也能养一个能看图的本地 AI 了,数据不出门,还不要 API 费。 长期有效 官方入口:https://ollama.com/library/qwen3.5/tags
曝光 88 · 评论 3 · 点赞 0 · 书签 0
查看原帖