量化投研 · 数据清洗与特征工程

📚 共计 30 章节
01
量化数据全景
数据源分类(行情、财务、另类)· 数据频率(Tick、分钟、日线)· 获取方式(API、爬虫、数据库)
数据源频率API
02
Pandas基础回顾
DataFrame与Series核心操作 · 索引与切片 · 缺失值处理基础 · 时间序列索引
DataFrame索引时间序列
03
缺失值处理
识别缺失值 · dropna · fillna · interpolate · 向前向后填充
dropnafillna插值
04
异常值处理
3σ原则 · IQR · 分位数截断 · Winsorize · 业务逻辑过滤
IQRWinsorize
05
重复值与格式统一
重复行检测与删除 · 列名标准化 · 日期格式统一 · 浮点数精度 · 字符串清洗
去重标准化格式
06
数据对齐与重采样
merge_asof · resample · OHLC聚合 · 填充缺失时间点
重采样对齐OHLC
07
多表数据合并
横向merge · 纵向concat · 键值匹配 · 索引对齐 · 避免笛卡尔积
mergeconcat对齐
08
因子数据预处理
去极值(MAD/百分位) · 标准化(Z-score/Min-Max) · 中性化(市值/行业) · 正交化
去极值标准化中性化
09
时间序列特征工程 (上)
Lag · Rolling · Expanding · 加权移动平均
滞后滚动窗口扩展窗口
10
时间序列特征工程 (下)
差分与对数收益率 · ATR · Momentum · RSI
波动率动量RSI
11
技术指标特征
SMA/EMA · MACD · 布林带 · OBV · MFI
均线MACD布林带
12
微观结构特征
买卖价差 · 订单簿不平衡 · VWAP · TWAP · 大单识别
价差VWAP大单
13
文本特征工程 (另类数据)
情感分析(SnowNLP/VADER) · TF-IDF · Word2Vec · LDA
情感TF-IDFWord2Vec
14
分类特征编码
Label Encoding · One-Hot · Target Encoding · 频率编码 · WOE
编码WOEOne-Hot
15
特征选择 (上)
过滤法(方差/相关系数/互信息) · 包裹法(RFE) · 嵌入法(Lasso/树模型)
过滤法RFELasso
16
特征选择 (下)
Boruta · 特征重要性排序 · VIF · 特征组合与交叉验证
BorutaVIF重要性
17
降维技术
PCA · t-SNE · UMAP · 因子分析 · 自动编码器
PCAt-SNEUMAP
18
时间序列交叉验证
滚动窗口验证 · 扩展窗口验证 · 分组时间序列分割 · 避免未来信息泄露
滚动验证扩展窗口未来信息
19
数据管道构建
sklearn Pipeline · 自定义Transformer · 并行处理(joblib) · 缓存
Pipelinejoblib缓存
20
高频数据清洗
Tick数据清洗(跳空/错误价格) · 逐笔成交与委托合并 · 快照重建
Tick逐笔快照
21
财务数据清洗
财报对齐 · 会计科目标准化 · 合并报表 · 财务造假识别基础
财报标准化造假识别
22
行业分类处理
申万行业 · GICS · 行业哑变量 · 行业中性化
申万GICS中性化
23
市值处理
总市值与流通市值 · 市值分位数 · 市值分组 · 市值中性化
市值分位数中性化
24
因子库管理
因子命名规范 · 存储格式(HDF5/Parquet) · 版本管理 · 质量监控
HDF5Parquet版本
25
数据质量监控
完整性检查 · 一致性校验 · 延迟检测 · 数据源切换告警
完整性一致性告警
26
内存优化
astype · 稀疏矩阵 · chunksize · category类型
astype稀疏category
27
并行计算加速
Pandas多进程(swifter) · Dask入门 · Modin · Numba加速
swifterDaskNumba
28
实战案例一:多因子选股
从原始数据到干净因子矩阵 · 完整清洗流程
多因子清洗流程实战
29
实战案例二:高频因子计算
Tick级数据到分钟因子 · 回测数据准备
高频分钟因子回测
30
实战案例三:另类数据特征工程
新闻舆情特征工程 · 因子合成
舆情因子合成另类数据