01
材料数据概览与问题识别
认识常见材料数据库(Materials Project、OQMD)、数据缺失类型、异常值识别
概览缺失异常
02
数据加载与初步探索
Pandas读取CSV/Excel、head()/info()/describe()、数据类型概览
Pandas探索
03
缺失值处理(上)
检测缺失值 isnull()/isna()、删除 dropna()、填充 fillna()
缺失填充
04
缺失值处理(下)
插值法 interpolate()、ffill/bfill、基于模型预测填充
插值模型
05
重复数据处理
检测重复行 duplicated()、删除 drop_duplicates()、基于特定列判断
重复去重
06
异常值检测与处理(上)
统计方法 Z-score/IQR、可视化箱线图/散点图
Z-scoreIQR
07
异常值检测与处理(下)
孤立森林、LOF、异常值替换与删除策略
孤立森林LOF
08
数据类型转换
字符串转数值 astype()/to_numeric()、日期时间 to_datetime()、类别编码
类型编码
09
数据标准化与归一化
Min-Max、Z-score、Robust标准化,材料特征应用
归一化标准化
10
数据离散化
等宽/等频离散化、聚类离散化、材料组分区间划分
离散化区间
11
特征编码(上)
独热编码、标签编码、有序编码
One-HotLabel
12
特征编码(下)
目标编码、频率编码、嵌入编码
TargetEmbedding
13
特征缩放与变换
对数变换、Box-Cox、Yeo-Johnson、偏态分布处理
变换偏态
14
特征构造(上)
领域知识特征、多项式特征 PolynomialFeatures、交互特征
多项式交互
15
特征构造(下)
聚合特征 GroupBy、时间序列滞后/滑动窗口、材料组合特征
聚合时序
16
特征选择(上)
过滤法(方差阈值、相关系数、卡方)、包裹法 RFE
过滤RFE
17
特征选择(下)
嵌入法 Lasso/树模型重要性、SHAP值选择
LassoSHAP
18
降维技术(上)
主成分分析 PCA、材料高维数据应用、方差解释率
PCA降维
19
降维技术(下)
t-SNE、UMAP、线性判别分析 LDA、高维可视化
t-SNEUMAP
20
文本数据处理
材料文献摘要清洗、正则表达式、TF-IDF特征提取
文本TF-IDF
21
图像数据预处理
显微图像读取、尺寸调整、归一化、数据增强
图像增强
22
序列数据处理
合成步骤序列、填充/截断、嵌入层、序列特征
序列嵌入
23
数据集成与合并
多表合并 merge/join、concat、键冲突与重复列
合并集成
24
数据采样与不平衡处理
过采样 SMOTE、欠采样、集成采样、失效数据不平衡
SMOTE不平衡
25
数据管道构建
scikit-learn Pipeline、自定义转换器、交叉验证与数据泄露
Pipeline泄露
26
数据版本控制
DVC数据版本管理、数据集存储回溯、与Git协同
DVC版本
27
自动化数据清洗
可复用清洗函数、Great Expectations数据质量验证
自动化GE
28
特征存储与特征平台
特征存储概念、Feast管理特征、在线推理
Feast特征平台
29
实战案例(上)
材料带隙预测项目——从原始数据库到清洗特征全流程
实战带隙
30
实战案例(下)
材料带隙预测项目——特征工程优化与模型性能对比
优化对比