Mac 用户的好日子：本地跑大模型，一下快了 6 倍 🍎 Hugging Face（全球最大的 AI 模型社区）的团队今天说，PyTorch 2.15（跑 … · @Super_Nius · TwKit

@Super_Nius

Mac 用户的好日子：本地跑大模型，一下快了 6 倍 🍎 Hugging Face（全球最大的 AI 模型社区）的团队今天说，PyTorch 2.15（跑 AI 模型最常用的底层工具）大改了苹果芯片的支持： ⚡ 在 M3 Ultra 上跑 Qwen3.6-35B-A3B，从每秒 9.4 个字涨到 61.3 个 🎬 生成视频解码内存从 270GB 压到 8GB 📦 Mac 现在也能用 FP8，同样的模型占一半内存 要求 macOS 15 以上。手里有 Mac 的，这周值得更新试试。 https://huggingface.co/blog/mps-pytorch-2-15

曝光 101 · 评论 3 · 点赞 4 · 书签 0