神经网络编译器 · 图优化技术课程目录

🧩 神经网络编译器 ⚡ 30个实战章节 📁 01.html ~ 30.html

01图优化技术概述计算图 · 优化目标 · 编译器层级

02计算图构建静态/动态图 · TF/PyTorch机制 · 追踪

03基本块优化基本块划分 · 局部值编号 · 死代码消除

04常量传播与折叠常量传播 · 条件常量 · 稀疏条件

05公共子表达式消除局部/全局CSE · 值编号

06死代码消除可达性 · 活跃变量 · 不可达删除

07循环优化概述不变式外提 · 归纳变量 · 展开/融合

08循环向量化SIMD · 自动向量化 · 重排

09内存优化别名分析 · 标量替换 · 层级感知

10数据流分析到达定值 · 活跃变量 · 可用表达式

11控制流优化CFG简化 · switch优化 · 分支优化

12内联优化收益与代价 · 启发式 · 递归内联

13算子融合水平/垂直融合 · 模式匹配 · 内存访问

14布局优化数据布局变换 · NCHW vs NHWC

15代数化简结合/交换律 · 分配律 · 强度削弱

16形状推断与动态形状静态/动态形状 · 符号分析

17类型推断与类型特化类型传播 · 特化 · 混合精度

18设备放置优化算子放置 · 异构调度 · 数据搬移

19并行化优化算子内/间并行 · 流水线 · 数据并行

20内存规划与复用生命周期 · 复用策略 · 内存池

21梯度图优化梯度图构建 · 检查点 · 重计算

22量化图优化QAT变换 · 后训练量化 · 算子融合

23剪枝图优化结构化/非结构化 · 图重构 · 稀疏计算

24图分割与分布式图切分 · 跨节点通信 · 流水线调度

25JIT编译优化Tracing/Script · 图缓存 · 特化编译

26TVM与Relay优化Relay IR · TVM Pass · AutoTVM

27XLA与MLIR优化HLO优化 · Dialect · Pass Pipeline

28Glow与ONNX Runtime优化图优化栈 · 执行提供者 · 图变换

29图优化Pass管理依赖分析 · 执行顺序 · 调试验证

30前沿图优化技术可微分编程 · GNN辅助 · 端到端联合