🚨速码！Strata 0.2.9 已更新！现在能用 Unsloth 的超小体积 DeepSeek 了，本地跑大模型更省空间、更快！ 简单说这些变化： 🔹新增… · @NFT_Chen · TwKit

@NFT_Chen

🚨速码！Strata 0.2.9 已更新！现在能用 Unsloth 的超小体积 DeepSeek 了，本地跑大模型更省空间、更快！ 简单说这些变化： 🔹新增超小版 DeepSeek：Unsloth 的 1-bit 版本（约 240GB 左右），体积小很多，质量基本不掉，普通电脑也能选着跑，支持 Windows、Linux、Mac 等 🔹Strix Halo 电脑更快：处理问题速度明显提升，最高能快将近一倍 🔹多任务同时跑更流畅：Linux 上开多个请求，整体速度最高快 1.45 倍 🔹DGX Spark 更快：DeepSeek 短问题处理速度大约翻倍 🔹Intel 显卡更好用：提示处理速度提升一截，多张显卡配合更顺 🔹多张 AMD 显卡一起用：以前只用一张，现在自动用满，速度提升很明显 
详细说明：https://github.com/Niko1221/Strata/releases/tag/v0.2.9 #Strata #DeepSeek #Unsloth #本地AI #开源AI #本地大模型 #梁文峰 #大胖鱼

曝光 1774 · 评论 8 · 点赞 16 · 书签 9