为了喂饱自家的推理模型,DeepSeek 早就悄悄建好了一个全球千亿级网页索引库。 这次不是做一个跟百度、Perplexity 抢普通用户的网页,而是直接把… · @mylifcc · TwKit
@mylifcc
为了喂饱自家的推理模型,DeepSeek 早就悄悄建好了一个全球千亿级网页索引库。 这次不是做一个跟百度、Perplexity 抢普通用户的网页,而是直接把最核心的底层基建拆出来,卖给全世界的 AI 开发者。 两个核心接口: • Search API:实时网页搜索,原生支持 site:、after: 等高级语法。 • Fetch API:给一个 URL,直接剔除广告和垃圾代码,秒转干净的 Markdown 正文喂给大模型。 现在做 Agent 最头疼的是什么? 不是搜不到,是搜出来的全是大模型生成的垃圾农场文! 更恶心的是最近兴起的 GEO(生成式引擎优化)——专门写诱导性黑帽内容,骗 AI 在回答里打广告。 DeepSeek 官方这次明牌:引擎底层内置了极严的反 SEO 作弊、反 GEO 操纵、反低质 AIGC 清洗机制。 因为他们自己就是做大模型训练的,谁在网页里下毒,他们比传统搜索引擎清楚一万倍。 看看 DeepSeek 的定价规则有多掀桌子: • 一口价:¥5 / 1000 次请求(约 $0.75),单次 0.005 元。 • 不玩套路:不管你一次返回多少条结果,不管网页正文有几万字,不按 Token 算,只按请求次数算! • 白嫖保护:只有返回 HTTP 200 且内容非空才扣钱。网站 404?反爬拦截?甚至搜出来是 0 条结果?统统不收钱! 吹完优点,说两个目前的致命短板(避坑必看) 想立刻全量替换生产环境的兄弟先别急,我看了下工程限制,目前有两个硬伤: • 并发锁死 5 QPS:Search 和 Fetch 按账号粒度限速,每秒最多 5 次请求(开再多 API Key 也没用)。做个人工具、内部 Agent 爽飞,但做高并发 ToC 产品绝对会卡脖子。 • Fetch 怕硬核反爬:遇到强制人机验证(Captcha)或重度防火墙会直接返回 404 提取失败(好在失败不扣钱)。
曝光 143 · 评论 3 · 点赞 2 · 书签 0
查看原帖