另类数据清洗与预处理实战

📚 共计 30 章节
01
数据清洗概述
什么是脏数据 · 数据清洗流程 · 常用工具
脏数据流程
02
数据探索与概览
Pandas概览 · describe() · info() · 数据类型检查
describeinfo
03
缺失值处理(上)
缺失值识别 · 统计 · 热力图可视化
热力图识别
04
缺失值处理(下)
dropna · fillna · interpolate 插值法
填充插值
05
重复值处理
duplicated · drop_duplicates · 业务去重
去重业务逻辑
06
异常值检测(上)
Z-score · IQR 统计学方法
Z-scoreIQR
07
异常值检测(下)
孤立森林 · LOF 机器学习方法
孤立森林LOF
08
异常值处理
删除 · 替换 · 分箱处理
替换分箱
09
数据类型转换
字符串转数值 · to_datetime · LabelEncoder/OneHot
编码日期
10
数据标准化与归一化
Min-Max · Z-score · RobustScaler
归一化标准化
11
数据离散化
等宽/等频分箱 · 自定义分箱 · 独热与标签编码
分箱编码
12
文本数据清洗(上)
正则表达式 · 去除标点 · 停用词
正则停用词
13
文本数据清洗(下)
词干提取 · 词形还原 · TF-IDF
TF-IDF词干
14
日期与时间数据清洗
时区处理 · 格式统一 · 时间序列重采样
时区重采样
15
数据合并与连接
concat · merge · join · 键冲突处理
合并连接
16
数据重塑与透视
pivot_table · melt · stack/unstack · crosstab
透视重塑
17
分组与聚合
groupby · 多级聚合 · 自定义agg
分组聚合
18
数据排序与排名
sort_values · rank · nlargest/nsmallest
排序排名
19
数据采样与分割
随机采样 · 分层采样 · train_test_split
采样分割
20
特征工程基础
特征创建 · 选择(方差/卡方) · PCA降维
特征选择PCA
21
图像数据清洗基础
格式转换 · 尺寸统一 · 去噪 · 数据增强
图像增强
22
音频数据清洗基础
格式转换 · 采样率统一 · 静音检测与去除
音频静音
23
大规模数据清洗技巧
chunksize · Dask入门 · 内存优化
Dask分块
24
数据清洗自动化
可复用清洗函数 · Pipeline构建流程
Pipeline自动化
25
数据质量评估
完整性/一致性/准确性 · 质量报告生成
质量报告维度
26
实战案例一:电商用户行为日志清洗
点击流处理 · 会话切割
电商会话
27
实战案例二:金融风控数据清洗
征信数据 · 缺失值高级填充
金融风控
28
实战案例三:医疗文本数据清洗
病历处理 · 诊断编码标准化
医疗编码
29
实战案例四:传感器时序数据清洗
漂移 · 噪声 · 缺失时间戳
时序传感器
30
数据清洗总结与最佳实践
常见陷阱 · 效率优化 · 文档与版本控制
最佳实践陷阱