独立做产品，想给用户加一个「问文档」的功能？先看一眼日期。 这是我的 Cloudflare 独立开发者系列第 6 条，讲 AI Search。它 11 月 … · @Sukiea1008 · TwKit

@Sukiea1008

独立做产品，想给用户加一个「问文档」的功能？先看一眼日期。 这是我的 Cloudflare 独立开发者系列第 6 条，讲 AI Search。它 11 月 1 日起按用量计费，你如果正在测试或准备上线，现在就该按新规则重算一遍，再看清它和 Vectorize 怎么选。 > AI Search 帮你做了什么 把一套文档变成能搜、能问的知识库，中间要做好几步： - 摄入：把文档读进来 - 切分：拆成一段一段 - 索引：建立能被检索的结构 - 检索：用户提问时找出相关段落 自己从头搭，每一步都要写代码、调参数。AI Search 把这几步整合在一起，数据来源支持内置存储、R2 和网站。 > 什么样的产品适合用 - 产品文档问答：你做了一个工具，用户总在问怎么配置、怎么导出 - 公开帮助中心搜索：帮助文章越来越多，关键词搜索已经找不准 - 访问范围明确的内部资料库：只给团队自己查的资料 相比你自己组合检索流程，它能少写一部分代码。数据权限和检索质量，还是要你自己检查。 > 11 月 1 日以后，每个账户每月包含多少 官方公告的每账户每月包含量： - 500 万 ingestion tokens - 10 GB-month 存储 - 1,000 次语义查询 - 1,000 次全文查询 ingestion tokens 指文档解析、切分后进入索引的内容用量。文档越多、越长，这一项涨得越快。 还有一笔容易漏掉： 生成回答、改写问题和外部模型的费用，按各自服务的规则另算，不在上面这几项里。 所以你估费用时至少要分两块：检索这一侧用了多少，回答这一侧又调了多少次模型。 你可以先拿每月 1,000 次查询除以 30，看看平均每天够用户问多少次，再对照你预期的访问量。 > 第一步怎么做 1. 准备一小组内容准确、权限明确的文档 2. 创建 AI Search 实例，连接数据源 3. 等资料完成索引 4. 用几道已知答案的问题测检索 5. 再测几道文档里根本没有答案的问题 第 5 步最容易被跳过。用户迟早会问到文档里没有的东西，你要看它会不会硬编一个答案出来。 如果还要生成回答，检索到的来源和最终答案要分开看，确认模型没有把无关段落当成依据。 > 上线前这四件事一定要测 - 新加的文档能不能搜到 - 内容更新后多久生效 - 过期资料还会不会被引用 - 私有资料在不同用户之间有没有隔离 举个例子：你上周改了价格说明，用户今天问价格，拿到的还是旧版本，这就是第 2、3 项没测到。 资料上传成功只是完成了其中一步，回答对不对、权限对不对，要另外验证。 > 什么时候该换成 Vectorize AI Search 是托管的，省事，但每一步怎么做由它决定。 如果你想自己控制切分、索引、筛选和检索，比如按用户、项目、文档类型过滤资料，就看 Vectorize。 典型场景：用户问「我上个月上传的合同里，续约条件是什么」，你得先确认这份合同属于他，再在他能看的范围里找段落。 Vectorize Free： - 每月 3,000 万 queried vector dimensions - 存储 500 万 vector dimensions - 最多 100 个索引 它按向量维度计量，和文档篇数无关。估算时要把向量数量、每条向量的维度和查询量放在一起算。 代价是切分、生成向量、保存原文、权限过滤、评估检索效果，全部要你自己组合。以后换 embedding 模型，新旧向量也未必能直接比较，可能要重新生成、重建索引。 > 怎么选 - 你只想尽快让用户能问文档：先试 AI Search - 你需要按用户或项目精细过滤资料：看 Vectorize - 你的功能只是摘要一段文字：两个都用不到，调一次模型就够 不管选哪个，11 月 1 日之后上线，都别再按早期测试期的费用来判断。

曝光 233 · 评论 2 · 点赞 1 · 书签 0