Transformer 时序建模 & 轨迹预测

🎯 30章 实战目录
从理论到部署 · 友好色系 30个章节 · 点击卡片跳转
01 课程导论
Transformer为什么能用于时序预测?轨迹预测的核心挑战?课程架构与学习路径。
02 时序数据基础
时间序列定义、平稳性与非平稳性、自相关与偏自相关、时序数据可视化。
03 轨迹数据基础
轨迹表示(坐标/速度/加速度)、坐标系转换、去噪插值重采样。
04 传统时序模型
ARIMA、SARIMA、模型定阶与诊断、简单轨迹预测应用。
05 循环神经网络
RNN原理、梯度消失/爆炸、LSTM与GRU门控、PyTorch单步预测。
06 注意力机制
Seq2Seq回顾、注意力数学本质、Bahdanau/Luong、注意力可视化。
07 Transformer架构
Attention Is All You Need、Encoder-Decoder、多头注意力、位置编码。
08 位置编码深入
正弦位置编码推导、可学习/相对位置编码、旋转位置编码RoPE。
09 多头注意力机制
计算流程、头数选择、可解释性分析、代码实现。
10 Transformer Encoder
LayerNorm、残差连接、FFN、Encoder堆叠与维度变化。
11 Transformer Decoder
Masked Self-Attention、Cross-Attention、自回归生成、推理过程。
12 时序Transformer
Informer、ProbSparse自注意力、蒸馏、生成式解码器。
13 时序Transformer进阶
Autoformer分解、FEDformer频率增强、PatchTST补丁嵌入。
14 轨迹预测数据集
ETH/UCY、nuScenes、ApolloScape、预处理与加载。
15 轨迹特征工程
历史轨迹编码、社会交互、地图语义、速度加速度、意图特征。
16 社会交互建模
Social Pooling、注意力交互网络、GNN交互、相对位置编码。
17 地图信息融合
栅格/向量化地图、LaneGCN、地图注意力机制。
18 多模态轨迹预测
多模态必要性、多样性与覆盖度、输出头设计、NLL与分类损失。
19 轨迹预测损失函数
ADE/FDE、负对数似然、Variety Loss、Best-of-K、Wasserstein损失。
20 评价指标
ADE、FDE、MR、minADE/minFDE、DA、碰撞率、代码实现。
21 经典模型复现 · Social-LSTM
代码复现分析、模型结构、训练流程、预测评估。
22 经典模型复现 · Social-GAN
生成器与判别器、多样性生成、池化机制改进。
23 经典模型复现 · Trajectron++
CVAE框架、离散化潜在变量、场景图构建。
24 Transformer轨迹模型 · MMT
MMTransformer架构、轨迹编码器、交互编码器、多模态解码器。
25 Transformer轨迹模型 · Wayformer
场景编码器、融合注意力、查询机制、高效推理。
26 模型训练技巧
学习率调度(Warmup/Cosine)、梯度裁剪、权重初始化、正则化。
27 数据增强与迁移
噪声注入/时间扭曲/空间变换、域适应、预训练与微调。
28 部署与推理优化
模型量化、ONNX导出、TensorRT加速、边缘端实时性。
29 前沿趋势
大模型轨迹预测、扩散模型、世界模型、端到端自动驾驶。
30 课程总结与项目实战
完整项目流程、数据到部署全链路、常见问题与未来路径。