算子优化 · 目录
📚 30章
模型部署·方法论
01
算子优化概述
定义、目标与核心挑战
02
计算图优化
图融合、常量折叠、死代码消除
03
内存布局优化
NCHW/NHWC格式选择、内存对齐
04
循环优化技术
循环展开、分块、重排
05
向量化计算
SIMD原理、自动/手动向量化
06
并行计算策略
多线程、任务并行与数据并行
07
算子融合技术
Conv+BN/ReLU、Attention融合
08
量化与精度优化
INT8/INT4量化、感知训练
09
稀疏化与剪枝
结构化/非结构化剪枝、稀疏矩阵
10
Winograd卷积算法
Winograd原理、GPU/CPU实现
11
FFT卷积算法
FFT加速卷积、适用场景与限制
12
Im2Col+GEMM卷积
Im2Col原理、cuBLAS/MKL
13
算子库调用优化
cuDNN、TensorRT、ONNX Runtime
14
自定义算子开发
CUDA C++、Triton语言入门
15
自动调优技术
AutoTVM、Ansor、AutoSchedule
16
编译器优化
TVM、XLA、MLIR编译流程
17
硬件特性利用
Tensor Core、NPU、DSP加速
18
内存带宽优化
数据预取、缓存阻塞、DMA
19
算子性能分析工具
Nsight、VTune、Profiling
20
算子性能调优案例
ResNet50算子优化实战
21
Transformer算子优化
Self-Attention、FFN层优化
22
LSTM/GRU算子优化
RNN计算瓶颈与优化
23
卷积算子深度优化
Im2Col+Winograd混合策略
24
归一化算子优化
BatchNorm/LayerNorm/GroupNorm
25
激活函数算子优化
ReLU、GELU、SiLU快速实现
26
池化算子优化
MaxPool、AvgPool向量化
27
矩阵乘法优化
Strassen、分块、SGEMM/DGEMM
28
算子调度策略
流水线、并行执行、异步调用
29
跨平台算子优化
CPU/GPU/ARM/NPU统一框架
30
算子优化未来趋势
AI编译器、可微分算子、动态形状