TwKit
正在载入
TwKit

Liquid AI 发布新一代小模型 LFM3,1.7B 参数,4bit 量化后只需约 1GB 内存,还能跑本地 Agent。 它支持 256K 上下文。还… · @Zen_with_AI · TwKit

@Zen_with_AI

Liquid AI 发布新一代小模型 LFM3,1.7B 参数,4bit 量化后只需约 1GB 内存,还能跑本地 Agent。 它支持 256K 上下文。还扩展出视觉、音频、全模态和决策模型,可以在单张 GPU 上微调,再部署到手机、电脑等设备。 这个有意思了,以后手机,还有没有独立显卡的设备有望摆脱昂贵的token费用。很多小任务,小模型是可以胜任的。 https://www.liquid.ai/blog/lfm3

曝光 524 · 评论 5 · 点赞 7 · 书签 1

查看原帖