Blog-Hunter基于 webMagic 的博客爬取工具

联合创作 · 2023-09-29 13:46

Blog-Hunter(博客猎手),基于 webMagic 的博客爬取工具,支持慕课、csdn、iteye、cnblogs、掘金和 V2EX 等各大主流博客平台。

主要功能

  • 多个平台:该项目内置了慕课、csdn、iteye、cnblogs、掘金和 V2EX 六个主流的博客平台
  • 单篇抓取:只需指定一个文章连接,即可自动抓取文章内容
  • 列表抓取:只需简单的配置,就可快速抓取列表文章
  • 程序可控:可选择根据抓取的链接数或者程序运行的时间停止程序
  • 字符流输出:可配合前端,实现实时打印程序日志的功能
  • 多线程:支持多线程抓取,效率更高
浏览 9
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

编辑 分享
举报