不想把 AI 对话全交给云端？可以看看这个 Rust 项目：wolf。 它基于 llama.cpp，支持本地 GGUF 模型推理、多轮对话、上下文保存与恢复… · @tieniu718 · TwKit

@tieniu718

不想把 AI 对话全交给云端？可以看看这个 Rust 项目：wolf。 它基于 llama.cpp，支持本地 GGUF 模型推理、多轮对话、上下文保存与恢复，还能配置 CUDA、Vulkan、ROCm、Metal 等 GPU 后端 注意：GPU 加速需要额外配置，Safetensors 目前只支持结构检查，不支持推理。 项目地址：https://github.com/DA3M0/wolf

曝光 17 · 评论 0 · 点赞 0 · 书签 0