TwKit
正在载入
TwKit

🚨Mac本地部署新里程碑!Strata解锁DeepSeek V4.1 Flash 1017,Apple Silicon原生Metal引擎落地! Strata… · @xiax0603 · TwKit

@xiax0603

🚨Mac本地部署新里程碑!Strata解锁DeepSeek V4.1 Flash 1017,Apple Silicon原生Metal引擎落地! Strata 0.2.7.1版本新增对DeepSeek V4.1 Flash 1017的本地适配,依靠独立的strata-dsv41 Metal引擎运行,和Qwen引擎相互独立。 硬件门槛并不低,需要macOS15以上系统,至少64GB统一内存,以及260到280GB的高速SSD空间。因为模型体量太大,无法全部载入内存,推理时会从固态硬盘流式读取权重。 M5 Max 128GB机型实测,2.00bpw量化下短问答速度稳定在15到16 tokens/s,3000token长提示输入也能维持14.5以上的输出速度。 这套方案现阶段只支持文本,暂不支持多模态。除了Apple Silicon,项目还同步覆盖NVIDIA DGX Spark,后续规划支持Intel B系列与Strix平台。 本地跑强代码Agent模型的门槛持续下探,你手上的Mac内存够不够挑战? https://github.com/Niko1221/Strata

曝光 539 · 评论 6 · 点赞 11 · 书签 2

查看原帖