利用query()与eval()优化pandas代码

Python大数据分析

共 4619字,需浏览 10分钟

 ·

2020-08-10 23:28

点击上方"蓝字"关注我们






Python大数据分析


记录   分享   成长

本文示例代码已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes

1 简介

利用pandas进行数据分析的过程,不仅仅是计算出结果那么简单,很多初学者喜欢在计算过程中创建一堆命名「随心所欲」的中间变量,一方面使得代码读起来费劲,另一方面越多的不必要的中间变量意味着越高的内存占用,越多的计算资源消耗。

因此很多时候为了提升整个数据分析工作流的「执行效率」以及代码的「简洁性」,需要配合一些pandas中的高级特性。本文就将带大家学习如何在pandas中化繁为简,利用query()eval()来实现高效简洁的数据查询与运算。

图1

2 基于query()的高效查询

query()顾名思义,是pandas中专门执行数据查询的API,其实早在2014年,pandas0.13版本中这个特性就已经出现了,随着后续众多版本的迭代更新,目前pandas中的query()已经进化得非常好用(笔者目前使用的pandas版本为1.1.0)。

首先从一个实际例子认识一下query()的用法,这里我们使用到「netflix」电影与剧集发行数据集,包含了6234个作品的基本属性信息,你可以在文章开头的Github仓库对应目录下找到它,或在公众号后台回复「网飞」获取百度网盘地址。

图2

正常读入数据后,我们分别使用传统方法和query()来执行这样的组合条件查询,不同的条件之间用对应的and or& |连接均可:

找出类型为「TV Show」且国家不含「美国」「Kids' TV」

图3

通过比较可以发现在使用query()时我们在不需要重复书写数据框名称[字段名]这样的内容,字段名也直接可以当作变量使用,而且不同条件之间不需要用括号隔开,在条件繁杂的时候简化代码的效果更为明显。

通过上面的小例子我们认识到query()的强大之处,下面我们就来学习query()的常用特性:

2.1 直接解析字段名

query()最核心的特性就是可以直接根据传入的查询表达式,将字段名解析为对应的列,其中对字段名的命名规范有一定要求:当字段名符合Python中对变量命名规范的要求时,即变量名完全由「字母」「数字」「下划线」构成且不以「数字」开头,这样的字段是可以直接写入query()表达式的。

但大家如果尝试过会发现一些不符合上述规范的变量名也不报错,譬如:

图4

因此可以记住只要在Python里作为变量名不报错,就可以直接填入字段名,否则需要在字段名两边加上`,譬如下面的例子:

图5

2.2 链式表达式

query()中还支持链式表达式(chained expressions),使得我们可以进一步简化多条件组合时的语法:

demo = pd.DataFrame({
    'a': [54321],
    'b': [12345]
})

demo.query("a <= b != 4")
图6

2.3 支持in与not in判断

query()支持Python原生的in判断以及not in判断,从而简化了多条件判断,比如我们针对「netflix」数据集想找出release_year等于2018或2019的作品:

netflix.query("release_year in [2018, 2019]")
图7

2.4 对外部变量的支持

query()表达式还支持使用外部变量,只需要在外部变量前加上@符号即可:

图8

2.5 对常规语句的支持

query()我个人觉得最惊人的功能就是其可以直接解析Python语句,这赋予我们极大的自由度:

def country_count(s):
    '''
    计算涉及国家数量
    '''

    
    return s.split(',').__len__()

# 找出发行年份在2018或2019年且合作国家数量超过5个的剧集
netflix.query("release_year.isin([2018, 2019]) and country.apply(@country_count) > 5")
图9

2.6 对Index与MultiIndex的支持

除了对常规字段进行条件筛选,query()还支持对数据框自身的index进行条件筛选,具体可分为三种情况:

  • 「常规index」

对于只具有单列Index的数据框,直接在表达式中使用index

# 找出索引列中包含king的记录,忽略大小写
netflix.set_index('title').query("index.str.contains('king', case=False)")
图10
  • 「names为空的MultiIndex」

对于MultiIndex的情况,可分为两种,首先我们来看看MultiIndexnames为空的情况,按照顺序,用ilevel_n表示MultiIndex中的第n列index:

# 构造含有MultiIndex的数据框,并重置index的names为None
temp = netflix.set_index(['title''type']);temp.index.names = (NoneNone)

# 找出第一个index包含king(忽略大小写),第二个index等于Movie的记录
temp.query("ilevel_0.str.contains('king', case=False) and ilevel_1 == 'Movie'")
图11
  • 「names不为空的MultiIndex」

而对于MultiIndexnames有内容的情况,直接用对应的名称传入表达式即可:

# 构造含有MultiIndex的数据框,并重置index的names为None
temp = netflix.set_index(['title''type'])

# 找出第一个index包含king(忽略大小写),第二个index等于Movie的记录
temp.query("title.str.contains('king', case=False) and type == 'Movie'")
图12

3 基于eval()的高效运算

eval()类似Pythoneval()函数,可以将字符串形式的命令直接解析并执行。

pandas中的eval()有两种,一种是top-level级别的eval()函数,而另一种是针对数据框的DataFrame.eval(),我们接下来要介绍的是后者,其与query()有很多相同之处,下面只介绍其独有特点。

同样从实际例子出发,同样针对「netflix」数据,我们按照一定的计算方法为其新增两列数据,对基于assign()的方式和基于eval()的方式进行比较,其中最后一列是False是因为日期转换使用coerce策略之后无法被解析的日期会填充pd.NAT,而缺失值之间是无法进行相等比较的:

# 利用assign进行新增字段计算并保存为新数据框
result1 = netflix.assign(years_to_now=2020 - netflix['release_year'],
                         new_date_added=pd.to_datetime(netflix['date_added'].str.strip(), 
                                                       format='%B %d, %Y', errors='coerce'))

# 利用eval()进行新增字段计算并保存为新数据框
result2 = netflix.eval('''
                       years_to_now = 2020 - release_year
                       new_date_added = @pd.to_datetime(date_added.str.strip(), format='%B %d, %Y', errors='coerce')'''
)

(result1 == result2).all()
图13

虽然assign()已经算是pandas中简化代码的很好用的API了,但面对eval(),还是逊色不少

DataFrame.eval()通过传入多行表达式,每行作为独立的赋值语句,其中对应前面数据框中数据字段可以像query()一样直接书写字段名,亦可像query()那样直接执行Python语句。

但要注意的是eval()中每个新字段的赋值必须写在同一行,否则会出错:

netflix.eval('''
             years_to_now = 2020 - release_year
             new_date_added = @pd.to_datetime(date_added.str.strip(), 
                                              format='%B %d, %Y', 
                                              errors='coerce')'''
)
图14

因此如果你要使用到的函数参数很多,可以利用functools中的partial将一些参数固化并保存,从而达到简化eval()表达式的目的:

from functools import partial

# 利用partial固化指定参数
func = partial(pd.to_datetime, format='%B %d, %Y', errors='coerce')

netflix.eval('''
             years_to_now = 2020 - release_year
             new_date_added = @func(date_added.str.strip())'''
)

而我最喜欢DataFrame.eval()的地方在于配合他,我可以在很多数据分析场景中实现0中间变量,一直链式下去,延续上面的例子,当我们新增了这两列数据之后,接下来我们按顺序进行按月统计影片数量、字段重命名、新增当月数量在全部记录排名字段、排序,其中关键的是「新增当月数量在全部记录排名字段」,如果不用eval(),你是无法在「不创建中间变量」的前提下如此简洁地完成需求的:

netflix.eval('''
             years_to_now = 2020 - release_year
             new_date_added = @func(date_added.str.strip())'''
) \
       .resample('M', on='new_date_added') \
       .agg({'new_date_added''count'}) \
       .rename(columns={'new_date_added''月度发行数量'}) \
       .eval('''月度发行数量排名 = 月度发行数量.rank(ascending=False).astype('int')''') \
       .sort_values('月度发行数量排名')
图15

使用query()+eval(),升华pandas数据分析操作。


以上就是本文的全部内容,欢迎在评论区与我讨论~

加入我们的知识星球【Python大数据分析】

爱上数据分析!







往期精选


1

jupyter lab最强代码提示插件来了

2

Github 30000 Star的免费BI工具:Superset

3

Python+Kepler.gl轻松制作时间轮播地图




Python大数据分析

data creates value

扫码关注我们

                           

浏览 42
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报