环境数据清洗与特征工程实战

📚 共计 30 章节
01
环境数据概述
环境数据类型(气象、水质、土壤、空气质量)、数据来源(传感器、卫星遥感、监测站)、数据特点(时空性、多源性、噪声大)。
气象水质土壤空气质量
02
Python环境搭建
Anaconda安装、Jupyter Notebook配置、虚拟环境管理、常用库安装(pandas、numpy、matplotlib、scikit-learn)。
AnacondaJupyter虚拟环境
03
Pandas基础
Series与DataFrame创建、数据读取(CSV、Excel、数据库)、数据概览(head、info、describe)、索引与选择。
DataFrameCSV索引
04
数据清洗基础
缺失值识别(isnull、isna)、缺失值统计、缺失值可视化(missingno库)、缺失值处理策略。
缺失值missingno可视化
05
缺失值处理
删除法(dropna)、填充法(fillna)、插值法(interpolate)、KNN填充、多重插补。
dropnafillnaKNN插补
06
异常值检测
统计方法(Z-score、IQR)、可视化方法(箱线图、散点图)、基于密度的方法(DBSCAN)、基于模型的方法(孤立森林)。
Z-scoreIQRDBSCAN孤立森林
07
异常值处理
截尾法、封顶法、替换法、分箱法、基于业务规则的修正。
截尾封顶分箱业务规则
08
重复值与噪声处理
重复值检测与删除、数据去重策略、噪声平滑(移动平均、Savitzky-Golay滤波)、数据排序。
去重移动平均SG滤波
09
数据类型转换
数据类型查看(dtypes)、类型转换(astype)、日期时间处理(to_datetime)、分类数据编码(LabelEncoder、OneHotEncoder)。
astype日期LabelEncoder
10
数据标准化与归一化
Min-Max归一化、Z-score标准化、Robust标准化、MaxAbs标准化、适用场景对比。
Min-MaxZ-scoreRobust
11
数据离散化
等宽分箱、等频分箱、聚类分箱、自定义分箱、独热编码与标签编码。
分箱独热编码聚类分箱
12
特征构建基础
基于领域知识的特征构建、时间特征提取(年、月、日、季节、星期)、统计特征(均值、方差、最大值、最小值)。
时间特征统计特征领域知识
13
时间序列特征
滞后特征(Lag)、滚动窗口特征(Rolling)、指数加权特征(EWM)、差分特征、时间戳特征。
LagRollingEWM差分
14
空间特征工程
经纬度转换、距离计算(Haversine公式)、空间聚类(DBSCAN)、区域聚合特征。
HaversineDBSCAN空间聚类
15
气象数据特征
温度、湿度、气压、风速、风向、降水量、辐射量、综合气象指数(温湿指数、风寒指数)。
温湿指数风寒指数辐射
16
水质数据特征
pH值、溶解氧、浊度、电导率、氨氮、总磷、总氮、水质综合指数(WQI)。
pH溶解氧WQI氨氮
17
土壤数据特征
土壤类型、有机质含量、pH值、含水量、重金属含量、土壤质量指数。
有机质重金属土壤质量
18
空气质量特征
PM2.5、PM10、SO2、NO2、CO、O3、AQI指数、空气质量等级。
PM2.5AQISO2NO2
19
多源数据融合
数据对齐(时间对齐、空间对齐)、数据合并(merge、concat)、数据拼接、特征拼接。
mergeconcat对齐
20
特征选择基础
过滤法(方差阈值、相关系数、卡方检验)、包裹法(递归特征消除)、嵌入法(Lasso、树模型特征重要性)。
过滤法RFELasso树模型
21
特征降维
主成分分析(PCA)、线性判别分析(LDA)、t-SNE、UMAP、因子分析。
PCALDAt-SNEUMAP
22
特征交互与多项式特征
特征交叉(PolynomialFeatures)、特征乘积、特征比值、特征组合搜索。
PolynomialFeatures交叉组合
23
文本特征处理
环境报告文本清洗、TF-IDF特征、词袋模型、词嵌入(Word2Vec)、主题模型(LDA)。
TF-IDFWord2VecLDA
24
图像特征处理
遥感图像读取、颜色直方图、纹理特征(GLCM)、形状特征、深度学习特征提取(预训练CNN)。
GLCMCNN遥感
25
传感器数据特征
采样频率处理、信号滤波、峰值检测、频谱特征(FFT)、时频特征(小波变换)。
FFT小波滤波峰值
26
数据质量评估
完整性评估、准确性评估、一致性评估、时效性评估、数据质量报告生成。
完整性准确性一致性
27
数据清洗流水线
Pipeline构建、自定义Transformer、数据清洗自动化、清洗日志记录、清洗效果评估。
PipelineTransformer自动化
28
特征工程自动化
Featuretools库使用、自动特征生成、特征重要性排序、特征选择自动化、特征存储。
Featuretools自动特征存储
29
案例实战1:城市空气质量预测
城市空气质量预测——数据清洗与特征工程全流程。
实战空气质量全流程
30
案例实战2:河流水质分类
河流水质分类——从原始数据到建模特征的全流程。
实战水质分类全流程