推文

@sanpsonfox · 2026-10-17 16:54

买本地模型的硬件之前，先看看自己能不能忍这个出字速度。 llmspeed 把“每秒多少 token”做成了能感受的演示：选硬件、模型和量化方式，看看文字会怎么往外蹦，也能把两套配置放一起比。 有意思的是它把数据来路摊开了：有社区实测，也有推算；默认针对短提示词、单设备。拿来建立速度直觉挺合适，别把演示当成自己长上下文任务的实测。 https://llmspeed.dev/

曝光 25 · 评论 1 · 点赞 2 · 书签 0 · 曝光/时 21.980867138864152