🚨 卧槽!!本地跑大模型的 Strata 又更新了，0.2.10 官方刚发的 这次主要干了几件事： 默认推测解码换成 DFlash2，官方写显存大概 625… · @Lniosytest · TwKit

@Lniosytest

🚨 卧槽!!本地跑大模型的 Strata 又更新了，0.2.10 官方刚发的 这次主要干了几件事： 默认推测解码换成 DFlash2，官方写显存大概 625MiB，旧 MTP 大概 5.2GB 8GB 显卡也能开 128K 上下文了，默认就是 131072 真 8GB 卡他们测过 Arc A750，生成大概 12.7～14.8 tok/s 把显存硬限到 8GB 的那组测法写过 63～73 tok/s，跟真卡不是一回事，别混着看 Linux 多卡有个 all-cards 切分，官方两张 A6000 做代码编辑，从 195 提到 377～394 tok/s 新加了编程向的 ISTA-DAS Coder，第一次完整下大概 191GB 怎么更新： 图形界面里直接 Update 或者终端跑 strata update（app 0.2.10，引擎 0.1.56，一块更新） 仓库在 http://github.com/Niko1221/Strata 显存门槛是下来了，内存还是要够 家里机器 RAM 不够的话，很多东西会挤到内存和 SSD，体感会慢很多

曝光 169 · 评论 0 · 点赞 0 · 书签 0