TwKit
正在载入
TwKit

给RAG或Agent喂网页时,原始HTML总要再清洗一遍。AnakinScraper OSS是一个开源抓取接口,发一个请求就能把任意站点转成干净的Markd… · @0xGky · TwKit

@0xGky

给RAG或Agent喂网页时,原始HTML总要再清洗一遍。AnakinScraper OSS是一个开源抓取接口,发一个请求就能把任意站点转成干净的Markdown或结构化JSON,直接可用。 它先用普通HTTP,复杂页面再切到Camoufox反检测浏览器,必要时才走外部接口,代理选择也用Thompson Sampling自动优化。本地一条make up就能起来,完全自己托管。 支持同步、异步和批量,还带Web面板。适合不想每次都手写清洗逻辑的AI场景。 传送https://github.com/Anakin-Inc/anakin

曝光 59 · 评论 0 · 点赞 0 · 书签 0

查看原帖