💥同一台 70W 本,Qwen3.8-27B 编码约 46.8 → 59.9 tok/s 换的不是硬件。ZBook(Ryzen AI Max+ 395)上 … · @QwenAIFans · TwKit
@QwenAIFans
💥同一台 70W 本,Qwen3.8-27B 编码约 46.8 → 59.9 tok/s 换的不是硬件。ZBook(Ryzen AI Max+ 395)上 Talus 对补丁版 llama.cpp;32K 预填充约 270 → 416。 温馨提示:作者自测,本机请复测。你会换推理引擎吗? 来源:Hugging Face Forum👇 https://discuss.huggingface.co/t/strix-halo-tuned-rust-engine-5-models/191158
曝光 275 · 评论 1 · 点赞 2 · 书签 0
查看原帖