go_spiderGo爬虫框架认领

0粉丝

本项目基于golang开发，是一个开放的垂直领域的爬虫框架，框架中将各个功能模块区分开，方便使用者重新实现子模块，进而构建自己垂直方方向的爬虫。本项目将爬虫的各个功能流程区分成Spider模块（主控），Downloader模块（下载器），PageProcesser模块（页面分析），Schedule

简介

本项目基于golang开发，是一个开放的垂直领域的爬虫框架，框架中将各个功能模块区分开，方便使用者重新实现子模块，进而构建自己垂直方方向的爬虫。本项目将爬虫的各个功能流程区分成Spider模块（主控），Downloader模块（下载器），PageProcesser模块（页面分析），Schedule... 更多

其它信息

授权协议

MPL

开发语言

Google Go

操作系统

跨平台

软件类型

开源软件

所属分类

应用工具、网络爬虫

开源组织

无

地区

国产

适用人群

未知

开源地址

https://www.proginn.com/w/1487036

时光轴

里程碑1

LOG2

2023

09-29

轻识收录

打卡

评价

0.0（满分 10 分）0 个评分

什么是点评分

图片

表情

全部评价( 0)

推荐率 100%

推荐

VW-CrawlerJava 爬虫框架

VW-Crawler背景自己一直对爬虫比较感兴趣，大学的毕业论文也是一个爬虫项目(爬教务处信息，然后做了个Android版教务管理系统，还获得了优秀毕业设计的称号)，自那以后遇到自己感兴趣的网站就会去

ScrapyWeb 爬虫框架

Scrapy 是一套基于基于Twisted的异步处理框架，纯python实现的爬虫框架，用户只需要定

crawler-javaJava 爬虫框架

一个简约灵活强大的Java爬虫框架。Features:1、代码简单易懂，可定制性强2、简单且易于使用的api3、支持文件下载、分块抓取4、请求和相应支持的内容和选项比较丰富、每个请求可定制性强5、支持

gcrawler爬虫框架

一个基于gevent的爬虫框架，最初的版本在一定程度上模仿了scrapy。

ScrapyWeb 爬虫框架

Scrapy是一套基于基于Twisted的异步处理框架，纯python实现的爬虫框架，用户只需要定制开发几个模块就可以轻松的实现一个爬虫，用来抓取网页内容以及各种图片，非常之方便～示例代码：$pip

ScrapplePython 爬虫框架

Scrapple 是一个用来开发 Web 爬虫程序的 Python 框架，使用 key-value

gcrawler爬虫框架

一个基于gevent的爬虫框架，最初的版本在一定程度上模仿了scrapy。

VW-CrawlerJava 爬虫框架

VW-Crawler背景自己一直对爬虫比较感兴趣，大学的毕业论文也是一个爬虫项目(爬教务处信息，然后

SeimiCrawlerJava爬虫框架

SeimiCrawler是一个敏捷的、独立部署的、支持分布式的Java爬虫框架，希望能在最大程度上降低新手开发一个可用性高且性能不差的爬虫系统的门槛，以及提升开发爬虫系统的开发效率。在SeimiCra

FEAPDERPython 爬虫框架

feapder[ˈfiːpdə]是一款上手简单，功能强大的Python爬虫框架，内置AirSpider、Spider、TaskSpider、BatchSpider四种爬虫解决不同场景的需求。命名源于f