推文
@KakaluoteW45042 · 2026-10-16 02:38
这种总参大、激活小的开源 MoE，本地 24GB 就能跑，是 agent 场景真正实用的形态。 harness 里一堆高频低难度调用，路由、分类、格式校验，没必要每次都烧旗舰模型的 token。本地开源权重做兜底层，省钱、低延迟，数据还不用出门。 旗舰模型留给真正难的决策。
曝光 25 · 评论 0 · 点赞 0 · 书签 0
@KakaluoteW45042 · 2026-10-16 02:38
这种总参大、激活小的开源 MoE，本地 24GB 就能跑，是 agent 场景真正实用的形态。 harness 里一堆高频低难度调用，路由、分类、格式校验，没必要每次都烧旗舰模型的 token。本地开源权重做兜底层，省钱、低延迟，数据还不用出门。 旗舰模型留给真正难的决策。
曝光 25 · 评论 0 · 点赞 0 · 书签 0