TwKit
正在载入
TwKit

先说个反差:我原以为想在本地搞语义搜索,就得先备好大容量硬盘。 可传统 RAG 的症结恰恰在这——嵌入向量得全量存着,百万级文档一上来就是几百 GB,个人设… · @wangxiaoxin88 · TwKit

@wangxiaoxin88

先说个反差:我原以为想在本地搞语义搜索,就得先备好大容量硬盘。 可传统 RAG 的症结恰恰在这——嵌入向量得全量存着,百万级文档一上来就是几百 GB,个人设备哪顶得住。 LEANN 干脆不这么干:向量不全存,改留一份精简的图结构,检索时按需即时计算,存储砍掉约 97%,精度却没缩水。 笔记本上就能直接跑,文件系统、邮件、浏览器历史、微信/iMessage、ChatGPT/Claude 对话、Slack/Twitter 实时数据、代码库,一律本地处理,云成本为零,数据也不出设备。 这项目已入选 MLsys 2026,我个人看,对隐私敏感又想要语义搜索的个人开发者,值得放进关注列表。 🔗 :https://github.com/StarTrail-org/LEANN

曝光 70 · 评论 0 · 点赞 0 · 书签 0

查看原帖