🚀Strata 0.2.9炸场！1-bit DeepSeek登场，本地推理再破上限！ 开源推理工具Strata发布v0.2.9版本，正式支持Unsloth … · @xiax0603 · TwKit

@xiax0603

🚀Strata 0.2.9炸场！1-bit DeepSeek登场，本地推理再破上限！ 开源推理工具Strata发布v0.2.9版本，正式支持Unsloth 1-bit超精简DeepSeek模型，体积压缩至240GB左右。 新版本在基本无损推理质量的前提下，大幅降低硬件与存储压力，适配Windows、Linux、Mac全平台本地运行。 本次更新实现多设备全面提速，Strix Halo设备推理速度最高接近翻倍，DGX Spark处理DeepSeek短问答效率同步翻倍。 Linux平台多任务并发能力显著增强，多请求并行吞吐最高提升1.45倍，后台多任务运行更稳定。 同时补齐独显生态优化，Intel显卡提示处理效率提升、多卡协同更流畅；AMD显卡解锁多卡调度，可自动满载并行提速。 GitHub地址：https://github.com/Niko1221/Strata/releases/tag/v0.2.9

曝光 434 · 评论 7 · 点赞 8 · 书签 0