Pandas用的6不6,来试试这道题就能看出来

小数志

共 1747字,需浏览 4分钟

 ·

2021-01-11 18:05


导读

近日,在实际工作中遇到了这样一道数据处理的实际问题,凭借自己LeetCode200+算法题和Pandas熟练运用一年的功底,很快就完成了。特此小结,以资后鉴!


题目描述:给定一组用户的多次行为起止时间表,由于相邻行为之间可能存在交叉(即后一行为的开始时间可能早于前一行为的结束时间),所以需根据用户ID对其相应的起止时间信息进行合并处理。不失一般性,模拟示例数据如下:

在上述示例数据中,用户A和用户B的多组行为间,均存在一定的起止时间交叉,例如用户A的两个行为起止时间分别为[3, 6]和[4, 7](同时,这里的两组行为开始时间先后顺序还是错的),存在交叉,所以可合并为[3, 7];类似地,用户B的两个行为起止时间分别为[4, 7]和[6, 8],也可合并为[4, 8]。


为完成以上这一小需求,实际上可拆解为两个小问题:

  • 给定同一用户的多组行为起始时间,根据起止时间的大小完成区间合并问题。实际上,这是LeetCode的一道原题

图片源自LeetCode56题截图


  • 在完成单个用户区间合并的基础上,如何处理多用户的区间合并以及最后结果的拼接问题。用Pandas的思维来讲,自然就是groupby的过程:split—aggregate(range combine)—union


首先,第一个小问题难度不大,直接实现一个自定义函数即可,示例代码如下,其中函数功能正常执行的前提是starts已按照从小到大的顺序完成排序,当然这一细节在pandas中很容易实现。
 1def range_combine(starts, ends):
2    # 在starts有序的前提下,完成区间合并
3    combines = []
4    for start, end in zip(starts, ends):
5        if not combines or start > combines[-1][1]:
6            combines.append([start, end])
7        else:
8            combines[-1][1] = max(combines[-1][1], end)
9    return combines
10# 测试样例
11starts = [1348]
12ends = [2679]
13range_combine(starts, ends)
14# 输出 [[1, 2], [3, 7], [8, 9]]


为了实现第二个小功能,则需要一定的技巧实现。可以肯定的是,为了实现按用户分组进行区间合并,那么肯定要groupby('uid'),而后对每个grouper执行range_combine,得到各用户及其合并后的所有区间嵌套列表,进而问题转化为如何将这个嵌套列表再拆分为多行。这就涉及到Pandas中的一个有用的API——explode,即将一个序列分裂成多行,从如下的explode函数说明文档中可以看出,它接收一个或多个列名作为参数(即要拆分的列),当该列的取值是一个列表型的元素时,可以将其拆分,并将该行中其余元素复制多份,从而实现拆分的过程。


进而,可以完成各用户多个行为起止区间分裂成多行的过程,具体实现如下:


至此,已经完成了大部分功能实现,仅差最后一步,即将各用户的历次合并后的行为起止时间拆分为两列,分别表示开始和结束时间,这一过程可直接调用pd.Series实现重命名即可。最后给出这个需求的pandas一句代码完整实现过程:


一个现实需求,对应多个数据处理小技巧,这真是实践出真知啊!



相关阅读:

浏览 31
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报