因子共线性处理与正交化技术

📚 共计 30 章节

共线性问题概述

什么是多重共线性、共线性的来源与危害、诊断指标（VIF、条件数）

共线性诊断实战

使用Python计算VIF、相关系数矩阵可视化、特征值分解与条件数计算

Python可视化

主成分分析（PCA）原理

PCA的数学推导、协方差矩阵与特征向量、方差解释率与主成分选择

PCA实战应用

使用sklearn进行PCA降维、主成分载荷矩阵解读、PCA在因子正交化中的应用

sklearn正交化

奇异值分解（SVD）原理

SVD的数学定义、与PCA的关系、截断SVD与降维

SVD矩阵分解

SVD实战应用

使用numpy进行SVD分解、图像压缩案例、SVD在推荐系统中的应用

因子分析（FA）基础

因子模型与假设、共同度与特殊方差、因子旋转（正交/斜交）

因子分析实战

使用factor_analyzer库进行因子分析、因子载荷矩阵解读、因子得分计算

factor_analyzer载荷

独立成分分析（ICA）原理

ICA的统计假设、与PCA的区别、FastICA算法简介

ICA盲源分离

ICA实战应用

使用sklearn进行ICA分解、盲源分离案例、ICA在信号处理中的应用

Gram-Schmidt正交化

正交化原理与步骤、与QR分解的关系、数值稳定性问题

Gram-Schmidt实战

手动实现Gram-Schmidt算法、使用numpy进行QR分解、正交基构建

正交回归（Orthogonal Regression）

总最小二乘法原理、与普通最小二乘的区别、正交回归的几何解释

正交回归TLS

正交回归实战

使用scipy进行正交回归、误差变量模型、实际案例（直线拟合）

岭回归（Ridge Regression）

L2正则化原理、岭迹图、偏差-方差权衡

岭回归实战

使用sklearn进行岭回归、正则化参数选择（交叉验证）、与普通回归对比

sklearn交叉验证

L1正则化原理、特征选择特性、Lasso与岭回归对比

使用sklearn进行Lasso回归、正则化路径图、坐标下降法简介

sklearn路径图

弹性网（Elastic Net）

L1+L2混合正则化、弹性网的优势、参数调优策略

弹性网实战

使用sklearn进行弹性网、参数网格搜索、实际数据集案例

网格搜索案例

偏最小二乘回归（PLSR）

PLSR原理、与PCA和回归的关系、交叉验证选择成分数

使用sklearn进行PLSR、成分数选择、与PCR对比

主成分回归（PCR）

PCR原理与步骤、与PLSR的区别、成分选择策略

使用sklearn进行PCR、与普通回归对比、实际案例（房价预测）

方差膨胀因子（VIF）深入

VIF的数学推导、VIF阈值选择、VIF的局限性

VIF实战进阶

逐步VIF选择、VIF与特征选择结合、高维数据VIF问题

共线性处理策略对比

各种方法的优缺点对比、适用场景分析、选择指南

综合案例一：金融数据共线性处理

因子收益率数据、PCA正交化、风险因子模型构建

金融风险模型

综合案例二：生物信息学数据共线性处理

基因表达数据、共线性诊断、正交化与降维

生物信息基因

课程总结与展望

共线性处理最佳实践、未来研究方向、推荐学习资源