推文
@tonnyzhou · 2026-10-15 14:23
24B的模型，干活只动2B参数，笔记本上跑出184 tps。 Liquid AI 新开源的 LFM2.5-24B-A2B，总参数24B，但每个token只激活约2B——MoE的稀疏思路。量化后14.5GB，M5 Max上184 tokens/秒，工具调用强、代码弱。 大力出奇迹的时代过去了，现在拼的是"该用力时才用力"。你觉得端侧agent的拐点到了吗？#AI科普
曝光 8 · 评论 0 · 点赞 0 · 书签 0
@tonnyzhou · 2026-10-15 14:23
24B的模型，干活只动2B参数，笔记本上跑出184 tps。 Liquid AI 新开源的 LFM2.5-24B-A2B，总参数24B，但每个token只激活约2B——MoE的稀疏思路。量化后14.5GB，M5 Max上184 tokens/秒，工具调用强、代码弱。 大力出奇迹的时代过去了，现在拼的是"该用力时才用力"。你觉得端侧agent的拐点到了吗？#AI科普
曝光 8 · 评论 0 · 点赞 0 · 书签 0