据介绍，社区 kaitchup 放出 Qwen3.8-27B 的 SLQ 近无损量化。三档权重约 23.7–30.5GB，与原版下一 token 概率重叠（… · @Moblacksoil · TwKit

@Moblacksoil

据介绍，社区 kaitchup 放出 Qwen3.8-27B 的 SLQ 近无损量化。三档权重约 23.7–30.5GB，与原版下一 token 概率重叠（EAR）约 98–99%。做法是敏感层更高精度、激活保留 BF16，兼顾小显存与高保真。 Apache 2.0；vLLM + Humming 可直接起服；据称 GGUF 下周到。 集合：https://huggingface.co/collections/kaitchup/qwen38-27b-slq 推荐 EAR99：https://huggingface.co/kaitchup/Qwen3.8-27B-SLQ-EAR99

曝光 70 · 评论 0 · 点赞 1 · 书签 0