臃肿起来的 Ollama 每次启动，都让人有种等大块头翻身的感觉。 后来换上 Shimmy：Rust 写的，单文件 5MB，启动不到 100ms，内存 50… · @wangxiaoxin88 · TwKit

@wangxiaoxin88

臃肿起来的 Ollama 每次启动，都让人有种等大块头翻身的感觉。 后来换上 Shimmy：Rust 写的，单文件 5MB，启动不到 100ms，内存 50MB 左右。 头一回运行我甚至怀疑它是不是没启动，这速度实在离谱。 1⃣ 单文件 5MB，下载干脆利落，不像某些工具几百兆打底 2⃣ 点开即用，启动压在 100ms 以内，等待焦虑直接没有 3⃣ 内存约 50MB，老旧机器也能带动 4⃣ OpenAI 兼容 API 自带，接入成本几乎可以忽略 5⃣ 不用配置，端口自动分配，打开就进入状态 6⃣ 模型自动发现，Hugging Face、Ollama、本地目录统统支持 体积、速度、内存这三项摆一起，Shimmy 比 Ollama 轻得不是一点半点。 项目地址：http://github.com/Michael-A-Kuykendall/shimmy

曝光 16 · 评论 0 · 点赞 0 · 书签 0