盘点一道窗口函数的数据分析面试题

Python爬虫与数据挖掘

共 3066字,需浏览 7分钟

 ·

2022-05-09 21:15

点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

云母屏风烛影深,长河渐落晓星沉。

大家好,我是热心读者。前几天在群里看到有人问了这样一道题,我觉得对一些新手了解窗口函数很有裨益,因此拿出来以飨读者。

574af1d2c15bf8ad15c88894ec108f65.webp

至于为什么要拿窗口函数来说事儿呢?因为目前的数分面试,只要考sql,窗口函数是100%会问的。从另一个侧面来讲,窗口函数是检验你的SQL的试金石,一验一个准,比目前的核酸检测水平都高。

好了,闲言少叙,我们来解题。

窗口函数定义

按照分类来讲,一类是专门的窗口函数:row_number(),rank(),dense_rank()等;一类是聚合函数:sum(),avg()等。

按照功能来讲,窗口函数是在不损失行数的背景下,按照指定维度进行分组,按照指定维度进行排序的一种排序函数,聚合等作用的函数,窗口函数的熟练程度决定了你SQL的熟练程度,而在面试中是一道必考题,在业务实践中也是一道迈不过去的坎儿。

窗口函数表达式

这里以row_number()为例,来说明一下表达式的含义,因为万变不离其宗,对于基础我们要了然于心。

row_number() over([parition by 维度] order by 维度 asc [desc])

[partition by 维度]  该部分可以省略,表按照某指定维度进行分组

order by 维度 该部分不允许为空,表按照某维度进行升序(或降序)排序

row_number()函数是用来分组排序的,排序不重复,此处大家可以百度一下跟rank和dense_rank排序的区别。

我们先“由俭入奢”,从最常规的开始处理。题目被我稍作修改

窗口函数实战——基础版

如图:

5b5319a7372ef1b4d3ccc83dd45b07fc.webp

根据题意我们会发现,这里是完成的排序是按照id和cat字段分组,按照time字段进行排序,发现了这个规律我们就套用窗口函数的基本语法,即可完成题目的要求,下面是脚本:

#第一步 构造数据
insert into  test values('2020-10-02 12:30:45','A','AAA');
insert into  test values('2020-10-02 12:30:55','A','AAA');
insert into  test values('2020-10-02 14:39:45','A','BBB');
insert into  test values('2020-10-02 14:40:55','A','BBB');
insert into  test values('2020-10-02 15:30:05','A','AAA');
insert into  test values('2020-10-02 16:30:45','B','AAA');
insert into  test values('2020-10-02 17:04:45','B','BBB');

# 脚本
select 
time,
id,
cat,
row_number() over(partition by id,cat order by time ascas rnk
from test
order by time asc
# 加入order by 语句为了让数据展示的更清楚,别无他用

看下效果:

c4f34758390f782041d3a19e99c91a78.webp

窗口函数实战——进阶版

具体的题目是这样的:

48dd2ed122e8be9eb713a93c8d1a0c2a.webp

具体的题目描述如下:

第一列是事件发生的时间,第二列是用户id,第三列是事件分组,第四列是我想要打的排序,如果事件分组和上一个事件不一致,或者用户id不一致的话,就要重新计数

根据图片和描述的情景,我们发现跟上一道题有一点点差别,就是数据顺序已经按照时间排好了序,如果id和cat相同,则进行顺序排序;如果id和cat不同,则要重新从1进行排序。

思路:

1、要想实现上述效果,也就是需要第三列辅助列跟id和cat一起进行分组,而第三列辅助列应该满足以下:

按照id和cat分组连续,则第三列辅助列应该为相同的值;如果id和cat发生了改变,则第三列辅助列应该随之改变,并且需要保证第三列辅助列在每个分组内的值唯一。

2、如果有了第三列辅助列,那么我们套用窗口函数公式即可将题意中顺序排出来。

以下为脚本:

# 1 构造数据 以题一中数据为例

# 2 脚本 a 构造连续排序
# 备注 原题中时间标记为1 2 3 ,而实际中时间肯定为标准的时间戳形式,因此需要通过连续数来构造
# 加with temp1 as这个伪脚本为了下面脚本引用方便而已,实际运行中请忽略
with temp1 as 
select 
time,
id,
category,
concat_ws('-',id,categoryas add_col ,
row_number() over(order by time ascas order_rnk
-- 按时间顺序计算连续排序,构造连续数序列
-- 此处省略partition by 说明实际中partition可以省略
from test

示意如图:

62e31f1cfbc1346b40b144f47c45a529.webp

而我们通过这个连续数序列想要判断哪些数是连续的,哪些数又是不连续的,接着看脚本

with temp2 as 
select
time,
id,
category,
add_col,
order_rnk,
order_rnk-lag(order_rnk,1,order_rnk-1over(partition by add_col order by time ascas order_rnk_lag1
from temp1
# 这里需要解释下几个知识点:
# 窗口函数lag可以理解为拖后的意思,即按照指定维度分组,指定维度排序,将某列向下平移n行,空值用第三个参数默认
# 因而本文的意思就是将order_rnk这个连续数序列按照add_col这个辅助列,组内向下平移1行,如果是空值,
# 用 order_rnk-1设置为默认值
# 为什么要这样处理:因为我们第一步配置的连续数序列,相邻两行作差,如果差值为1,则连续,否则说明组内出现了不连续的情况

示意如图:

bdd82b571b74cadf9d7a9c11f3ac59b5.webp

通过红色框,我们可以看出来,我们把同一个add_col内的不连续区分了开来,此时,我们就可以有“山重水复疑无路,柳暗花明又一村”的感觉了,我们把add_col 和order_cnk_lag1再作为一个分组的依据,再排序,题意可解,脚本如下:

with temp3 as 
select 
time,
id,
catgory,
row_number() over(parition by concat(add_col,order_cnk_lag1) order by time ascas rnk
from temp2

以上。

b6d6563d29851d9bccda45a89e9afc6f.webp

小伙伴们,快快用实践一下吧!如果在学习过程中,有遇到任何问题,欢迎加我好友,我拉你进Python学习交流群共同探讨学习。

------------------- End -------------------

往期精彩文章推荐:

47c6e6c1657849f97fe04e519b96c1de.webp

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

浏览 29
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报