4、观察性研究中的偏差:选择偏差、混杂偏差、测量偏差,辛普森悖论

好,咱们进入第四章。说实话,这一章是因果推断里最容易踩坑的地方。我见过太多人,模型跑得飞起,结果一上业务就被打脸。为什么?因为数据里的偏差没处理好。

观察性研究不像随机实验,我们不能控制谁进实验组、谁进对照组。数据就摆在那,但背后藏着各种“陷阱”。今天我就把最常见的几种偏差掰开揉碎了讲清楚。

4.1 选择偏差:你的样本不代表总体

选择偏差,说白了就是你选的数据“有毛病”。样本不能代表你想研究的总体。

我遇到过的一个真实案例: 某产品要做用户留存分析,只看了“活跃用户”的数据。结果发现留存率高达90%。但一算全量用户,留存率只有30%。为什么?因为那些已经流失的用户根本没出现在活跃用户名单里。这就是典型的选择偏差。

核心要点: 选择偏差发生在样本选取过程中,导致样本分布与总体分布不一致。

常见的几种选择偏差:

  • 幸存者偏差: 只看到“幸存”下来的样本,忽略了“阵亡”的。比如只分析成功案例,不看失败案例。
  • 自选择偏差: 用户自己决定是否参与。比如愿意填问卷的用户,本身就和不愿意填的用户不一样。
  • 剔除偏差: 处理数据时,不小心把某些关键群体删掉了。比如只保留“完整数据”的记录,可能把缺失值多的用户全扔了。
避坑指南: 我曾经在分析A/B测试数据时,只看了“完成实验”的用户。结果发现实验组效果特别好。后来一查,实验组很多用户因为体验太差直接退出了,根本没被记录。嗯,从那以后我养成了一个习惯:先看流失率,再看转化率。

4.2 混杂偏差:第三变量的干扰

混杂偏差是因果推断的头号敌人。它指的是存在一个第三变量,同时影响原因和结果,导致我们误以为两者有因果关系。

举个例子:冰淇淋销量和溺水人数正相关。难道吃冰淇淋会导致溺水?当然不是。背后的混杂变量是“天气”——天热了,大家既爱吃冰淇淋,又爱去游泳,游泳的人多了,溺水自然就多了。

我个人习惯用“因果图”来识别混杂变量。 画一个简单的有向无环图(DAG),把变量之间的关系标出来。如果某个变量同时指向“处理变量”和“结果变量”,那它大概率是混杂变量。

核心要点: 混杂变量必须同时满足两个条件:
1. 与处理变量相关
2. 与结果变量相关(且不在因果路径上)

处理混杂偏差的常见方法:

  • 分层分析: 按混杂变量分层,每层内分别分析。比如按年龄分层,看不同年龄段的效果。
  • 多变量回归: 把混杂变量作为协变量加入模型。
  • 倾向性评分匹配: 用倾向性评分把实验组和对照组匹配起来,模拟随机实验。
  • 工具变量法: 找一个只影响处理变量、不影响结果变量的工具变量。
注意: 不是所有变量都要控制!过度控制也会引入偏差。比如控制了“中介变量”(处理变量影响结果变量的中间环节),反而会掩盖真实的因果效应。这个坑我踩过,后面会细讲。

4.3 测量偏差:数据不准,一切白搭

测量偏差,就是数据本身有问题。你测量到的和真实情况不一样。

我举个例子:用户满意度调查。用户填的分数是5分,但实际体验可能只有3分。为什么?因为用户可能碍于面子,或者懒得认真填。这就是测量偏差。

常见的测量偏差类型:

  • 回忆偏差: 用户记不清过去的事。比如“你上个月买了什么?”——大概率记不全。
  • 社会期望偏差: 用户倾向于给出“社会认可”的回答。比如问“你读书多吗?”大部分人都会往高了说。
  • 测量工具偏差: 测量工具本身不准。比如用不同版本的埋点代码,统计出来的数据可能不一致。
避坑指南: 我曾经接手一个项目,发现转化率突然暴涨。团队高兴坏了,以为优化有效。我仔细一查,原来是埋点代码改版了,新代码把“浏览商品详情页”也算成了转化。嗯,数据口径变了,指标自然就变了。从那以后,每次看数据变化,我都会先确认埋点有没有动过。

4.4 辛普森悖论:数据会骗人

辛普森悖论,是我觉得最反直觉的一个现象。它说的是:整体趋势和分组趋势完全相反。

举个经典的例子:

医院 治疗A(成功/总数) 治疗B(成功/总数)
小医院 80/100 (80%) 9/10 (90%)
大医院 10/50 (20%) 50/100 (50%)
合计 90/150 (60%) 59/110 (53.6%)

你看,在小医院和大医院里,治疗B的成功率都更高(90% vs 80%,50% vs 20%)。但合起来看,治疗A的成功率反而更高(60% vs 53.6%)。为什么会这样?

因为样本量分布不均匀。治疗A在小医院做了100例(小医院成功率高),治疗B在大医院做了100例(大医院成功率低)。合起来时,大医院的低成功率把治疗B的整体数据拉低了。

核心要点: 辛普森悖论的本质是“混杂变量”在作怪。这里的混杂变量是“医院规模”——它同时影响治疗方案的选择和治疗成功率。

怎么避免辛普森悖论?

  • 先分层,再汇总: 不要只看整体数据,先按可能的混杂变量分层分析。
  • 理解数据生成过程: 搞清楚数据是怎么来的,哪些因素会影响分组和结果。
  • 使用因果推断方法: 比如用倾向性评分匹配,消除混杂变量的影响。
警告: 辛普森悖论在用户增长分析中非常常见。比如按渠道看,每个渠道的转化率都在提升,但整体转化率却在下降。这时候别急着下结论,先看看是不是渠道流量结构变了。

知识体系总览

下面这张图,我把本章的核心逻辑画出来了。你一看就明白:

观察性研究中的偏差 观察性研究偏差 选择偏差 混杂偏差 测量偏差 辛普森悖论 幸存者偏差 自选择偏差 剔除偏差 分层分析 多变量回归 倾向性评分匹配 工具变量法 回忆偏差 社会期望偏差 测量工具偏差 先分层再汇总 理解数据生成过程

这张图把四种偏差的关系理清了。你想想看,选择偏差、混杂偏差、测量偏差是三种独立的偏差类型,而辛普森悖论其实是混杂偏差的一种特殊表现形式。搞懂了这些,你在做用户增长归因时,至少能避开80%的坑。

我的建议: 每次拿到新数据,先问自己三个问题:
1. 这个样本能代表总体吗?(选择偏差)
2. 有没有第三变量在同时影响X和Y?(混杂偏差)
3. 数据是怎么收集的?有没有可能不准?(测量偏差)
养成这个习惯,你的分析结果会靠谱很多。

专注资料整理