给RAG或Agent喂网页时,原始HTML总要再清洗一遍。AnakinScraper OSS是一个开源抓取接口,发一个请求就能把任意站点转成干净的Markd… · @0xGky · TwKit
@0xGky
给RAG或Agent喂网页时,原始HTML总要再清洗一遍。AnakinScraper OSS是一个开源抓取接口,发一个请求就能把任意站点转成干净的Markdown或结构化JSON,直接可用。 它先用普通HTTP,复杂页面再切到Camoufox反检测浏览器,必要时才走外部接口,代理选择也用Thompson Sampling自动优化。本地一条make up就能起来,完全自己托管。 支持同步、异步和批量,还带Web面板。适合不想每次都手写清洗逻辑的AI场景。 传送https://github.com/Anakin-Inc/anakin
曝光 59 · 评论 0 · 点赞 0 · 书签 0
查看原帖