01
Transformer核心原理
自注意力机制、多头注意力、位置编码、编码器-解码器结构详解
注意力编码器
02
时间序列数据预处理
滑动窗口构建、平稳性检验、差分处理、归一化与反归一化
滑动窗口归一化
03
PyTorch基础回顾
张量操作、Dataset与DataLoader、模型构建三要素、训练循环模板
PyTorch训练循环
04
从零实现Transformer编码器
多头注意力层、前馈神经网络层、残差连接与层归一化
编码器残差连接
05
构建时间序列Transformer模型
输入嵌入层、位置编码层、编码器堆叠、预测头设计
嵌入层预测头
06
模型训练与调优
学习率调度、梯度裁剪、早停策略、超参数搜索技巧
调优早停
07
单变量时间序列预测实战
以电力负荷数据为例，完成完整训练与评估流程
电力负荷单变量
08
多变量时间序列预测实战
多特征输入、多步输出策略、特征重要性分析
多变量特征重要性
09
长序列预测优化
稀疏注意力、LogSparse注意力、Reformer原理与实现
稀疏注意力Reformer
10
概率预测与不确定性量化
分位数损失、MC Dropout、Deep Ensemble方法
概率不确定性
11
可解释性分析
注意力权重可视化、特征归因、时间序列SHAP值计算
可解释性SHAP
12
模型部署与加速
ONNX导出、TensorRT优化、C++推理接口封装
ONNXTensorRT
13
对比实验设计
Transformer vs LSTM vs TCN vs N-BEATS 性能对比
对比LSTM
14
多数据集泛化能力测试
金融、气象、交通、能源领域数据适配
泛化多领域
15
Informer模型详解
ProbSparse自注意力、自注意力蒸馏、生成式解码器
Informer蒸馏
16
Autoformer模型详解
序列分解机制、自相关机制、渐进式分解架构
Autoformer分解
17
FEDformer模型详解
频率增强分解、傅里叶变换注意力、季节趋势分解
FEDformer傅里叶
18
PatchTST模型详解
Patch嵌入、通道独立策略、预训练与微调范式
PatchTST预训练
19
Crossformer模型详解
两阶段注意力、维度序列嵌入、跨维度交互
Crossformer跨维度
20
TimesNet模型详解
多周期发现、TimesBlock结构、任务自适应头
TimesNet多周期
21
iTransformer模型详解
倒置架构、变量注意力、序列注意力分离
iTransformer倒置
22
大模型与时间序列
LLM4TS、Time-LLM、GPT4TS 适配与微调方法
大模型LLM
23
多模态时间序列
文本+数值融合、图像+时序对齐、跨模态注意力
多模态跨模态
24
联邦学习与时间序列
横向联邦、纵向联邦、安全聚合、隐私保护
联邦学习隐私
25
在线学习与概念漂移
流式数据处理、自适应模型更新、漂移检测算法
在线学习漂移检测
26
因果推断与时间序列
Granger因果、DoWhy框架、反事实预测
因果推断DoWhy
27
异常检测与根因分析
重构误差、预测残差、异常评分、根因定位
异常检测根因
28
强化学习与时间序列
时序决策、DQN调度、策略梯度应用
强化学习DQN
29
图神经网络与时间序列
时空图卷积、STGCN、MTGNN架构解析
图神经网络STGCN
30
综合项目实战
端到端工业级时间序列预测系统设计与实现
工业级端到端