Blog-Hunter - 基于 webMagic 的博客爬取工具
MIT
跨平台
Java
软件简介
Blog-Hunter(博客猎手),基于 webMagic 的博客爬取工具,支持慕课、csdn、iteye、cnblogs、掘金和 V2EX
等各大主流博客平台。
主要功能
- 多个平台 :该项目内置了慕课、csdn、iteye、cnblogs、掘金和 V2EX 六个主流的博客平台
- 单篇抓取 :只需指定一个文章连接,即可自动抓取文章内容
- 列表抓取 :只需简单的配置,就可快速抓取列表文章
- 程序可控 :可选择根据抓取的链接数或者程序运行的时间停止程序
- 字符流输出 :可配合前端,实现实时打印程序日志的功能
- 多线程 :支持多线程抓取,效率更高