Meta 把 800B 级的 Muse Spark Open 塞进了两台 M5 Ultra Mac Studio:MLX 适配做完,vLLM、SGLang、… · @baboonAI4S · TwKit
@baboonAI4S
Meta 把 800B 级的 Muse Spark Open 塞进了两台 M5 Ultra Mac Studio:MLX 适配做完,vLLM、SGLang、llama.cpp 全兼容。听着很燃,实际是把"数据中心级推理"变成"工位级电费焦虑"——两台顶配 Mac 二十万起步,跑起来风扇能把整个开源团队送走。但方向确实对了:以后敏感代码不用上云,本地跑大模型从"玩具"变成"基建"。据 X 搜索「大模型」最新帖。 #大模型 #本地部署
曝光 6 · 评论 0 · 点赞 0 · 书签 0
查看原帖