Blog-Hunter基于 webMagic 的博客爬取工具
Blog-Hunter（博客猎手），基于 webMagic 的博客爬取工具，支持慕课、csdn、iteye、cnblogs、掘金和 V2EX 等各大主流博客平台。
主要功能
- 多个平台：该项目内置了慕课、csdn、iteye、cnblogs、掘金和 V2EX 六个主流的博客平台
- 单篇抓取：只需指定一个文章连接，即可自动抓取文章内容
- 列表抓取：只需简单的配置，就可快速抓取列表文章
- 程序可控：可选择根据抓取的链接数或者程序运行的时间停止程序
- 字符流输出：可配合前端，实现实时打印程序日志的功能
- 多线程：支持多线程抓取，效率更高
评论