7 万 star 的爬虫项目,专爬你天天刷的那些 App。 MediaCrawler,小红书、抖音、快手、B 站、微博、贴吧、知乎,一个工具全拿下。关键词搜… · @wlzh · TwKit
@wlzh
7 万 star 的爬虫项目,专爬你天天刷的那些 App。 MediaCrawler,小红书、抖音、快手、B 站、微博、贴吧、知乎,一个工具全拿下。关键词搜帖子、指定帖子 ID、二级评论、创作者主页、评论词云图、视频图片下载,全都有,还带个 WebUI 不用敲命令行。 技术路线挺聪明的:基于 Playwright,用登录态复用的浏览器上下文拿签名参数,不用去逆向各家的加密算法,门槛直接打下来。 67k star,1.2 万 fork,2023 年的项目,一直维护到现在。 但丑话说前头:作者在 README 里写了免责声明——仅供学习,禁止商用和非法用途。爬虫这事,技术无罪,用法有罪,自己掂量。 我觉得吧,这种项目的真正价值不是“能爬”,是给做舆情、做内容研究的人省了重复造轮子的时间。工具摆在这,怎么用是你的事。 🔗 原文:https://github.com/NanmiCoder/MediaCrawler
曝光 2165 · 评论 0 · 点赞 46 · 书签 49
查看原帖