4. 描述性统计分析:数据分布概览,集中趋势与离散程度,合规指标的初步画像

大家好,我是老张。今天咱们聊聊描述性统计分析。

说白了,这一步就是给合规数据“拍张证件照”。

你拿到一堆数据,不能直接往里冲。先看看它长什么样,胖还是瘦,高还是矮,有没有明显不对劲的地方。这就是描述性统计的核心任务。

4.1 为什么要先做描述性统计?

我刚开始做合规分析时,犯过一个低级错误。

当时拿到一批交易数据,直接上模型跑异常检测。结果模型跑出来一堆“异常”,我兴奋得不行。结果一查,原来是数据录入时有个字段的单位搞错了,把“万元”当成了“元”。

嗯,从那以后,我养成了一个习惯:任何分析,先做描述性统计

它能帮你回答三个问题:

  • 数据长什么样?——分布、范围、缺失情况
  • 数据集中在哪?——平均值、中位数、众数
  • 数据离散吗?——标准差、方差、四分位距

核心观点:描述性统计不是“花架子”,它是你发现数据问题的第一道防线。

4.2 集中趋势:数据往哪聚?

集中趋势,就是看数据“抱团”在哪个位置。

常用的指标有三个:

指标 含义 适用场景
均值(Mean) 所有数据的算术平均 数据对称、无极端值时好用
中位数(Median) 排序后中间位置的值 数据有偏、有异常值时更稳健
众数(Mode) 出现频率最高的值 分类数据、离散数据

举个例子。你分析公司员工的报销金额。

如果大部分报销都在500-1000元,但有个领导报销了5万块。这时候均值会被拉高,中位数反而更能反映“普通员工”的真实情况。

我个人习惯:先看中位数,再看均值。两者差距大,说明数据有问题。

避坑指南:我曾经遇到一个案例,某部门的“差旅费”均值是3000元,中位数只有800元。一查,原来是部门经理把个人消费混进了差旅报销。中位数和均值的差异,就是线索。

4.3 离散程度:数据有多散?

集中趋势告诉你“中心在哪”,离散程度告诉你“数据有多散”。

两个指标必须掌握:

  • 标准差(Standard Deviation):数据偏离均值的平均距离。越大,数据越分散。
  • 四分位距(IQR):第三四分位数减去第一四分位数。不受极端值影响。

你想想看,两个部门的合规评分都是80分,但一个部门的标准差是5,另一个是20。这说明什么?

第一个部门大家水平差不多,第二个部门有人特别好、有人特别差。这种“离散”本身,就是风险信号。

注意:标准差对异常值非常敏感。如果数据里有明显的离群点,建议用IQR来评估离散程度。

4.4 数据分布:画出形状看看

光看数字不够,得画图。

我个人最常用的两个图:

  • 直方图:看数据分布的形状。是正态分布?还是左偏、右偏?
  • 箱线图:一目了然看到中位数、四分位距、异常值。

举个例子。合规培训的完成率数据,画成直方图后,我发现有两个“尖峰”——一个在100%,一个在60%。

为什么?

后来一查,100%的是强制培训,所有人都得参加;60%的是选修培训,大家积极性不高。你看,分布形状直接告诉你业务逻辑。

# Python代码示例:快速绘制合规指标分布
import pandas as pd
import matplotlib.pyplot as plt

# 假设df是合规数据
df = pd.read_csv('compliance_data.csv')

# 直方图
plt.hist(df['compliance_score'], bins=20, edgecolor='black')
plt.title('合规评分分布')
plt.xlabel('评分')
plt.ylabel('频数')
plt.show()

# 箱线图
plt.boxplot(df['compliance_score'])
plt.title('合规评分箱线图')
plt.ylabel('评分')
plt.show()

小技巧:我习惯在直方图上叠加一个正态分布曲线。如果实际分布和正态曲线偏差很大,说明数据可能有异常。

4.5 合规指标的初步画像

好了,现在我们把所有信息整合起来,给合规指标画个像。

一个完整的“画像”应该包含:

  1. 基本统计量:样本量、均值、中位数、标准差、最小值、最大值
  2. 分布特征:是否正态?是否有偏?是否有双峰?
  3. 异常值检测:箱线图里的离群点,或者超过3倍标准差的点
  4. 缺失情况:哪些字段有缺失?缺失比例多少?

我一般会生成一个“合规指标速览表”,像这样:

指标 均值 中位数 标准差 异常值数 缺失率
培训完成率 85.3% 92.0% 18.7% 12 2.1%
报销合规率 96.8% 98.5% 5.2% 3 0.5%
合同审批时长 4.2天 3.0天 3.8天 8 0.0%

你看,这个表一出来,问题就暴露了:

  • 培训完成率的中位数92%,但均值只有85.3%,说明有一批人拉低了整体水平
  • 合同审批时长的标准差很大,说明流程不稳定

这就是描述性统计的价值——用数字说话,让风险无处藏身

4.6 本章知识体系

下面这张图,是我自己总结的“描述性统计分析框架”,你可以照着这个思路来:

描述性统计分析框架 合规数据 集中趋势 离散程度 分布形状 均值 中位数 众数 标准差 方差 四分位距 直方图 箱线图 密度图 合规指标初步画像 基本统计量 分布特征 异常值检测 缺失情况

这张图把整个流程串起来了。从原始数据出发,分别计算集中趋势、离散程度、分布形状,最后汇总成合规指标的初步画像。

我个人建议:每次做合规分析,先把这张图走一遍。花不了多少时间,但能帮你避免80%的低级错误。

总结一句话:描述性统计不是终点,它是你深入分析前的“体检报告”。体检没问题,再上复杂模型;体检有问题,先治病再分析。


公众号:蓝海资料掘金营,微信deep3321