今天刷推看到 Recursive 开源了个 Flint,说是笔电本地跑代码的 40B 总参,每 token 只激活 2.5B,Apache 2.0 官方数据… · @outai11 · TwKit
@outai11
今天刷推看到 Recursive 开源了个 Flint,说是笔电本地跑代码的 40B 总参,每 token 只激活 2.5B,Apache 2.0 官方数据是 M4 Pro 上 125 tok/s,实际要 48G 内存才起得来 门槛这就有点劝退了,16G 的本子基本不用想 不过 2.5B 激活配 262K 上下文,本地 agent 这块确实有点意思 等一个野生实测,别又是跑分好看实际拉胯 先 mark,周末拉下来试试
曝光 12 · 评论 1 · 点赞 0 · 书签 0
查看原帖