Ollama 功能确实齐，可要说只想让本地模型火速跑起来，是不是有点小题大做？Shimmy 走了条更轻的路——Rust 打造，整包 5MB 上下，启动不足 … · @Manorgw · TwKit

@Manorgw

Ollama 功能确实齐，可要说只想让本地模型火速跑起来，是不是有点小题大做？Shimmy 走了条更轻的路——Rust 打造，整包 5MB 上下，启动不足 100ms，内存约 50MB。 ① 单个文件就能运行，下完基本直接开用 ② 端口自动分配，配置这活儿不用管 ③ 自带 OpenAI 兼容 API ④ Hugging Face、Ollama 和本地模型都能自动扫出来 ⑤ 体积小、启动快，老机器也吃得消 嫌本地模型工具太笨、就想要个打开即跑的，不妨试它一把。 🔗 https://github.com/Michael-A-Kuykendall/shimmy

曝光 26 · 评论 1 · 点赞 1 · 书签 0