推文

@fireandstart · 2026-10-11 21:53

很多 RAG 项目从 demo 到生产，真正的分水岭不是再换一个更大的模型，而是能不能把“检索到了”变成“证据足以支持这个回答”。这篇把问题拆成 Data、Retrieval、Reliability 三层，我尤其认同两点：数据更新与权限必须进入检索链路；引用也必须真的证明对应的结论。 一个系统可能找到了语义相近的段落，却拿错版本、漏掉相邻限定条件，或者把用户无权访问的内容带进上下文。此时答案读起来流畅，风险反而比明确报错更高。因而 chunk 的来源、时间、章节和权限信息不是可有可无的 metadata，而是回答能否被核查的基础。 我也赞同先把简单检索流程做好，再判断是否需要 agent。关键词、向量、结构化查询各自适合不同问题；混合检索、rerank 和上下文扩展也应通过真实问题集来衡量，而不是因为架构图更复杂就默认更先进。对证据缺失、冲突或过期的情况，系统能清楚说明“不知道”，本身就是可靠性的一部分。 生产化最终靠持续运营：记录检索与生成轨迹，盯住索引新鲜度、召回、引用准确率、延迟和成本，并在 embedding、切分或提示改变后重新评估。RAG 不只是把文档塞进 prompt，而是一条需要维护、能追溯、能承认边界的证据链。

曝光 32 · 评论 1 · 点赞 0 · 书签 0 · 曝光/时 0.47051772978070244