4. 描述性统计分析:数据分布概览,集中趋势与离散程度,合规指标的初步画像
大家好,我是老张。今天咱们聊聊描述性统计分析。
说白了,这一步就是给合规数据“拍张证件照”。
你拿到一堆数据,不能直接往里冲。先看看它长什么样,胖还是瘦,高还是矮,有没有明显不对劲的地方。这就是描述性统计的核心任务。
4.1 为什么要先做描述性统计?
我刚开始做合规分析时,犯过一个低级错误。
当时拿到一批交易数据,直接上模型跑异常检测。结果模型跑出来一堆“异常”,我兴奋得不行。结果一查,原来是数据录入时有个字段的单位搞错了,把“万元”当成了“元”。
嗯,从那以后,我养成了一个习惯:任何分析,先做描述性统计。
它能帮你回答三个问题:
- 数据长什么样?——分布、范围、缺失情况
- 数据集中在哪?——平均值、中位数、众数
- 数据离散吗?——标准差、方差、四分位距
核心观点:描述性统计不是“花架子”,它是你发现数据问题的第一道防线。
4.2 集中趋势:数据往哪聚?
集中趋势,就是看数据“抱团”在哪个位置。
常用的指标有三个:
| 指标 | 含义 | 适用场景 |
|---|---|---|
| 均值(Mean) | 所有数据的算术平均 | 数据对称、无极端值时好用 |
| 中位数(Median) | 排序后中间位置的值 | 数据有偏、有异常值时更稳健 |
| 众数(Mode) | 出现频率最高的值 | 分类数据、离散数据 |
举个例子。你分析公司员工的报销金额。
如果大部分报销都在500-1000元,但有个领导报销了5万块。这时候均值会被拉高,中位数反而更能反映“普通员工”的真实情况。
我个人习惯:先看中位数,再看均值。两者差距大,说明数据有问题。
避坑指南:我曾经遇到一个案例,某部门的“差旅费”均值是3000元,中位数只有800元。一查,原来是部门经理把个人消费混进了差旅报销。中位数和均值的差异,就是线索。
4.3 离散程度:数据有多散?
集中趋势告诉你“中心在哪”,离散程度告诉你“数据有多散”。
两个指标必须掌握:
- 标准差(Standard Deviation):数据偏离均值的平均距离。越大,数据越分散。
- 四分位距(IQR):第三四分位数减去第一四分位数。不受极端值影响。
你想想看,两个部门的合规评分都是80分,但一个部门的标准差是5,另一个是20。这说明什么?
第一个部门大家水平差不多,第二个部门有人特别好、有人特别差。这种“离散”本身,就是风险信号。
注意:标准差对异常值非常敏感。如果数据里有明显的离群点,建议用IQR来评估离散程度。
4.4 数据分布:画出形状看看
光看数字不够,得画图。
我个人最常用的两个图:
- 直方图:看数据分布的形状。是正态分布?还是左偏、右偏?
- 箱线图:一目了然看到中位数、四分位距、异常值。
举个例子。合规培训的完成率数据,画成直方图后,我发现有两个“尖峰”——一个在100%,一个在60%。
为什么?
后来一查,100%的是强制培训,所有人都得参加;60%的是选修培训,大家积极性不高。你看,分布形状直接告诉你业务逻辑。
# Python代码示例:快速绘制合规指标分布
import pandas as pd
import matplotlib.pyplot as plt
# 假设df是合规数据
df = pd.read_csv('compliance_data.csv')
# 直方图
plt.hist(df['compliance_score'], bins=20, edgecolor='black')
plt.title('合规评分分布')
plt.xlabel('评分')
plt.ylabel('频数')
plt.show()
# 箱线图
plt.boxplot(df['compliance_score'])
plt.title('合规评分箱线图')
plt.ylabel('评分')
plt.show()
小技巧:我习惯在直方图上叠加一个正态分布曲线。如果实际分布和正态曲线偏差很大,说明数据可能有异常。
4.5 合规指标的初步画像
好了,现在我们把所有信息整合起来,给合规指标画个像。
一个完整的“画像”应该包含:
- 基本统计量:样本量、均值、中位数、标准差、最小值、最大值
- 分布特征:是否正态?是否有偏?是否有双峰?
- 异常值检测:箱线图里的离群点,或者超过3倍标准差的点
- 缺失情况:哪些字段有缺失?缺失比例多少?
我一般会生成一个“合规指标速览表”,像这样:
| 指标 | 均值 | 中位数 | 标准差 | 异常值数 | 缺失率 |
|---|---|---|---|---|---|
| 培训完成率 | 85.3% | 92.0% | 18.7% | 12 | 2.1% |
| 报销合规率 | 96.8% | 98.5% | 5.2% | 3 | 0.5% |
| 合同审批时长 | 4.2天 | 3.0天 | 3.8天 | 8 | 0.0% |
你看,这个表一出来,问题就暴露了:
- 培训完成率的中位数92%,但均值只有85.3%,说明有一批人拉低了整体水平
- 合同审批时长的标准差很大,说明流程不稳定
这就是描述性统计的价值——用数字说话,让风险无处藏身。
4.6 本章知识体系
下面这张图,是我自己总结的“描述性统计分析框架”,你可以照着这个思路来:
这张图把整个流程串起来了。从原始数据出发,分别计算集中趋势、离散程度、分布形状,最后汇总成合规指标的初步画像。
我个人建议:每次做合规分析,先把这张图走一遍。花不了多少时间,但能帮你避免80%的低级错误。
总结一句话:描述性统计不是终点,它是你深入分析前的“体检报告”。体检没问题,再上复杂模型;体检有问题,先治病再分析。
公众号:蓝海资料掘金营,微信deep3321