GitHub出了一款爬虫神器!还给出了详细教程!

菜鸟学Python

共 1836字,需浏览 4分钟

 ·

2020-12-14 03:33

点上方蓝色“菜鸟学Python”,选“星标”公众号

重磅干货,第一时间送到



对于做爬虫和数据分析方向的小伙伴来说,对于数据的获取是十分重要的,尤其是关于大数据分析的数据,非常难以获取,最近小编在浏览Github时,就发现了一个宝库——gopup。是由一个国内的大神开源的python库,该库包含了大量的大数据分析相关的数据,一起来看看吧。




01.神器GoPup

项目的地址为:https://github.com/justinzm/gopup。该库所采集的数据都是公开的数据源,作者也指出了通过该库所获取的数据主要目的是用于学术的研究。


该项目所涉及到的数据库包含了微博指数数据、百度指数数据、头条指数数据、新经济公司、生活数据、疫情数据等信息。

可以看到,上述的数据中,都包含了大量的大数据分析数据,可以通过该项目库直接获取来使用。gopup的安装也十分的便捷,在终端运行pip install gopup即可安装。


02.如何使用

接下来,我们通过程序来看一下如何使用gopup来获取数据。首先来看一下,百度指数的数据获取,程序和结果如下图所示:

上图中,可以看到,首先我们需要先在网页端登录百度指数,然后获取cookie数据,拿到cookie数据后,就可以调用gopup库的baidu_search_index函数来查询指定时间段内的指定关键词的搜索热度。这里我们搜索的就是2020年10月1号到2020年12月1号的62天的“口罩”搜索指数。返回的是DataFrame格式的数据。那么如何获得cookie呢?

首先打开百度指数网站并登录,然后点击F12进入开发者模式后,点击Network后,点击任意一个url的链接,翻到最下方就可以获取到cookie数据。


接下来我们来获取一下汽油和柴油的历史调价信息,程序和结果如下所示:

可以看到,对于调价信息,只需要一行代码即可帮助我们搞定。


gopup不仅仅可以抓取到生活信息,还可以帮助我们抓取影视信息方面的数据,例如实时的电影票房数据、实时电视剧播映指数、艺人商业价值等信息,程序和结果如下图所示:

上述的程序给出的是实时电视剧播映指数数据,可以看到,最近比较火的电视剧为张鲁一、段奕宏领衔主演的《大秦赋》和李易峰、金晨主演的《隐秘而伟大》。这两部剧在豆瓣上的评分都在8分以上,可谓是收视率和口碑的双丰收。


上图给出的是艺人商业价值的排行榜(详细的csv可以在文末获取),杨紫、易烊千玺和杨幂分列前三位,这份榜单是根据商业价值来进行排序,在专业热度、关注热度等信息方面,不同的明星热度排名也是不相同的。


03.详细的文档

作者在项目中不仅给出了安装方式,而且还出了中文文档(http://doc.gopup.cn/),大家可以直接到作者提供的中文文档中进行学习,作者给出的中文文档非常的详尽。

以百度的搜索数据为例,我们需要重点关注的有四个点,分别是目标地址、输入参数、输出参数和接口示例,其中接口示例给出了程序如何调用的详细说明,让大家一看就明白该如何使用。


还要注意的是,影视数据获取的程序,必须在Ubuntu环境下运行,否则js数据无法正确返回结果。


以上就是小编为大家带来的gopup库的介绍,大家也赶快安装gopup,发现更多更有趣的大数据应用吧。


另外使用这个库需要一个js补丁,小编已经为大家准备好了!

直接后台输入:补丁




爆款文案


每个程序员都是从菜鸟开始成长起来的,没有人生下来就是程序员高手。菜鸟编程大本营,专注于分享趣味的编程技巧,不限于Java, Python ,Go, Javascript等语言,让菜鸟爱上编程,进阶成为高手。


菜鸟编程本营,从菜鸟进阶高手

点这里,获取新手福利


浏览 33
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报