1 over()窗口函数
1.1 语法结构
分析函数 over(partition by 列名 order by 列名 rows between 开始位置 and 结束位置)
1.2 over中的三个函数具体含义
-
order by:排序的意思,跟sql一样
-
partition by:分区的概念,后面接字段表示跟什么分区,比如日期 partition by day
-
rows between 开始位置 and 结束位置:窗口范围
PRECEDING:往前 FOLLOWING:往后 CURRENT ROW:当前行 UNBOUNDED:起点(一般结合PRECEDING,FOLLOWING使用) UNBOUNDED PRECEDING 表示该窗口最前面的行(起点) UNBOUNDED FOLLOWING:表示该窗口最后面的行(终点) 比如说: ROWS BETWEEN UNBOUNDED PRECEDING AND CURRENT ROW(表示从起点到当前行) ROWS BETWEEN 2 PRECEDING AND 1 FOLLOWING(表示往前2行到往后1行) ROWS BETWEEN 2 PRECEDING AND 1 CURRENT ROW(表示往前2行到当前行) ROWS BETWEEN CURRENT ROW AND UNBOUNDED FOLLOWING(表示当前行到终点)
2 与over窗口函数一般配套使用的分析函数
2.1 聚合类
- 内容
- avg()
- sum():注意下这边:和 order by 函数一起使用,就是按照排序,逐行累加
- max()
- min()
- count():注意下这边:和 order by 函数一起使用,就是按照排序,计数累加
- 使用:略,和sql一样
2.2 排名类
- 内容
- row_number()
- rank()
- dense_rank()
- 使用
- row_number()按照值排序时产生一个自增编号,不会重复(如:1、2、3、4、5、6)
- rank() 按照值排序时产生一个自增编号,值相等时会重复,会产生空位(如:1、2、3、3、3、6)
- dense_rank() 按照值排序时产生一个自增编号,值相等时会重复,不会产生空位(如:1、2、3、3、3、4)
2.3 其他类
- lag()
- lag(col,n,DEFAULT) 用于统计窗口内往上第n行值
- 参数含义:第一个参数为列名,第二个参数为往上第n行(可选,默认为1),第三个参数为默认值(当往上第n行为NULL时候,取默认值,如不指定,则为NULL)
- lead()
- lead(col,n,DEFAULT) 用于统计窗口内往下第n行值
- 参数含义:第一个参数为列名,第二个参数为往下第n行(可选,默认为1),第三个参数为默认值(当往下第n行为NULL时候,取默认值,如不指定,则为NULL)
- ntile()
-
ntile(n)用于将分组数据按照顺序切分成n片,返回当前切片值
-
参数含义:参数n表示将数据分为几块,并返回n所在的那一块
- first_value()
- first_value(字段) 取分组内排序后,截止到当前行,第一个值
- 参数含义:first_value(字段),参数是字段,和分组排序搭配使用后,表示该字段的第一个值作为结果返回
- 来张图理解一下
- last_value()
- last_value(字段)取分组内排序后,截止到当前行,最后一个值
- 参数含义:last_value(字段),参数是字段,和分组排序搭配使用后,表示该字段的第最后一个值作为结果返回
3 总结
我感觉是,hive中方便和分析函数一起查看原表数据的一种工具
4 详细参考与案例
标签:窗口,入门,PRECEDING,hive,参数,value,排序,极速,函数 From: https://blog.51cto.com/u_15316078/5747724想做案例练习可以参考这个小伙伴的视频,刷一下很快的:窗口函数详解+12套案例练习 https://www.bilibili.com/video/BV1DK411J7E4?p=2&vd_source=bf4eb9e00649104ee4ec443e363be4b6