Strata 和 Project Maya 是两个开源程序，能用自己电脑的显卡加大内存本地跑 DeepSeek V4.1-Flash。两家前后不到两个半小时… · @Moblacksoil · TwKit

@Moblacksoil

Strata 和 Project Maya 是两个开源程序，能用自己电脑的显卡加大内存本地跑 DeepSeek V4.1-Flash。两家前后不到两个半小时各发了新版，内存够大的电脑解码都更快了。 Strata 0.2.6 在内存能装下模型放在 CPU 这边的全部数据、还剩 8GB 时，加载时一次拷进内存，官方单卡测试机解码快了约一到两成多，代价是加载变慢；内存装不下的电脑速度不变。Maya v1.1.28 同样要内存装得下，社区报告在 RTX 3090 上解码最高快约 2 倍，作者在 V100 上测到快 14%，只在 Linux 加单张 NVIDIA 显卡上生效。 https://github.com/Niko1221/Strata/releases/tag/v0.2.6 https://github.com/mw00/project-maya/releases/tag/v1.1.28

曝光 35 · 评论 0 · 点赞 2 · 书签 0