Tw93

Tw93

0 关注者

21小时前

最近在「写你不知道的大模型训练」的这篇文章,刚好需要批量去下载一批大模型训练的论文以及厂商的模型发布的博客以及各种资料来分析,之前做法是搜索然后手工处理,刚好碰到了 XCrawl 这个工具,给到关键词就可以帮你搜索下载到结构化的文章内容数据,支持 Scrape 单页抓取、Crawl 全站递归、Search/SERP 搜索结果采集几类接口,输出 Markdown 或 JSON 直接可用,相比自己手工