卧槽,打游戏那台电脑居然能本地跑 DeepSeek 级别的大模型! FreeToken 就是冲着这个来的,它说不用数据中心,在你已有的硬件上本地跑。 先说怎… · @awe0_io · TwKit
@awe0_io
卧槽,打游戏那台电脑居然能本地跑 DeepSeek 级别的大模型! FreeToken 就是冲着这个来的,它说不用数据中心,在你已有的硬件上本地跑。 先说怎么装,别上来就折腾命令行。 首选是去官网下 Windows 桌面版,它帮你把引擎装好,还能聊天和调参数。 装好就能直接在里面跑模型,不用自己配一堆东西。 旧电脑能不能跑,先看这一条。 是不是 NVIDIA 显卡,游戏电脑基本都符合,核显的老电脑就先别指望。 第一次也别直接上最大的,先从官方快速上手用的那个模型起,跑起来再说。 跑通了,再试支持列表里更大的那些模型。 官方文档里没有给一张显存对应哪个模型的对照表,我就不编一个给你。 能不能起,以你机器上实际跑起来为准。 跑起来之后,它提供 OpenAI 和 Anthropic 兼容的接口,能直接接 Claude Code、Codex、OpenCode。 有台 NVIDIA 游戏电脑、又不想把数据发出去的人,这个值得先收藏。 ⭐ GitHub Stars 约 15,863 🍴 Forks 约 1,576 📜 开源协议 Apache-2.0 https://github.com/FlashML-org/FreeToken
曝光 398 · 评论 4 · 点赞 7 · 书签 1
查看原帖