人人都会点数据分析 | 了解统计指标与异常值的简单处理

咸鱼学Python

共 2243字,需浏览 5分钟

 ·

2021-01-24 07:18

上一篇文章简单学习了什么是数据,这次来看看什么是统计指标,进一步了解更多数据分析相关的基础知识。

什么是统计指标

体现总体数量特征的概念和数值

根据数据分析的目的不同,统计指标也会变化

分析招聘数据的时候:技能、薪资、岗位年限

分析用户转化率:网站浏览量、着陆页、跳失率

分析理财产品的时候:往期的业绩、风险系数、年化收益

统计指标根据他体现的内容分为两大类:总量指标,相对指标

总量指标

描述特定条件下的总规模、总水平或工作总量的指标

GDP、销售总额、总人口数

相对指标

描述的是相对关系,而不是总体情况

是指两个有联系的现象数值相比得到的比率

比例:各数据 / 总比 %

比率:数据想:数据项

倍数:突出上升、增长幅度

环比增长率(短期):(本期数 - 上期数)/ 上期数 * 100 %

同比增长率(长期):(本期数 - 同期数)/ 同期数 * 100 %

注意:环比更注重短期的涨幅表现,同比更注重长期的涨幅表现

除了以上的两大类外还有三个统计指标值得我们学习,分别是集中趋势指标、离散趋势指标、分布形态

统计指标:集中趋势指标  -  平均指标

平均值

用一个数字显示总体一般水平就为平均指标也叫集中趋势指标,最常用的集中趋势指标就是平均值

平均值 = 所有数据相加 / 数据的个数

在通常的数据处理中经常会出现异常的数据,比如数据特别大或特别小就会影响平均值,这样得出的平均值具有一定的误导性,平均值对于异常数并不敏感

我和马大大的月薪平均过亿...

正是因为这样情况,所以还有一个指标 - 中位数,需要了解一下

中位数

中位数是指按顺序排列后,居于中间位置的数

数据为奇数:位于(n+1)/ 2 位置的数为中位数

数据为偶数:位于最中间的两位数相加 / 2 为中位数

这样的数据更具有代表性

众数

众数是指出现次数最多的数值,反应的是局部特征、密集度

统计指标:离散趋势指标

上面讲完了集中趋势指标,现在来了解下什么是离散趋势指标

离散趋势指标是体现内部差异度的指标,主要有三类:极差、平均查、标准差

极差

极差体现数据内部最大的差异情况

极差 = 最大值 - 最小值

但是极差不能体现数据内部真正的数据差异情况,体现数据内部真正的差异情况我们使用平均差

平均差

平均差体现的是一组数据与平均值差异的平均差异

平均差 = |每个数据项 - 均值|的总和 / 数据项个数

数据项与平均值的差距越大,数据越分散,反之越集中

不过这里需要注意,当一组数据中存在数据异常值的时候,就容易导致误差,所以针对这种情况,就有了对离散值更敏感的标准差

标准差

标准差是相比与平均差更能代表离散程度的指标

标准差 = ((|每个数据项 - 均值|)平方的总和 / 数据项个数)开方

使用标准差能更直观的了解差异程度,是我们最常用的离散指标

统计指标:分布形态

分布形态指的是图表化呈现出来的形态

常见的形态有:左偏分布、右偏分布、正态分布

左偏分布:平均值是偏左的,众数(也就是峰值)是偏右的

右偏分布:平均值是偏右的,众数(也就是峰值)是偏左的

正态分布:平均值是居中的,众数(也就是峰值)是居中的

异常值

上面在介绍各类指标的时候,一直都有提到一个会影响我们判断的概念,就是异常值,那么怎么识别异常值呢?

异常值一般是指与平均值偏差极大或极小的值,也叫离群值

上面也同时提到了一般是指,这个判断标准要取决于具体分析的业务对象

例如:周期性的产业,比如旅游行业是有淡旺季之分的,旺季的数据通常能达到淡季的两倍以上,这样的数据就不能视为异常值

识别异常值

一般的业务数据通过观察异常值与整体数据的差距可以识别异常值

通常情况下我们采用的方法是通过计算与平均的倍数,异常值与平均值计算出来的倍数通常远大于(小于)其他数据与平均值计算出来的倍数,这样就可以简单的识别出哪些数据项是异常值了。

至于如何处理异常值,一般要看具体的业务分析

异常值判定

1、对于错误记录的异常值,直接修改为正常数据即可,例如将工资数据错误记录为负数,我们直接修改即可

2、对于错误添加的异常值,直接删除即可,例如在预处理时,将年龄数据混入了工资数据中,我们就可以直接删除了

3、对于正确、真实的异常值,这个需要根据具体业务分析,需要判断这个异常值是否反映特殊的事件。

例如,在基金行情的走势图中存在因为分红导致的基金走势波动大,如果我们是为了分析该基金的行情走势,那么我们就不能处理这个异常值。如果我们分析数据是为了量化交易,那么就要修改调整这个异常值

还有就是对于周期性的数据,例如上面提到的旅游数据,对于这类数据我们是不做处理的

处理异常值

1、对于错误数据,我们可以填充空值、填充样本平均值

2、对于正确、真实的数据,我们可以根据实际情况调整、数值 * 需要调整的比率

例如之前提供的例子中,当基金因为分红导致当天下跌了 8%,对于这样的数据,我们可以将之后的价格调整为 收盘价 *(1+0.08)

这次我们简单了解了什么是统计指标,以及异常值的简单处理,现在我们对数据分析的基础知识已经有了比较好的认识了,那么是时候体系化的了解数据分析的整体流程,为之后数据分析工具的学习打下基础了。

好了,今天的文章就到这里,我们下次再会~

有知有行

[ 完 ]

对了,看完记得一键四连,这个对我真的很重要。

浏览 56
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报