🧩 算子优化 · 嵌入式AI
⚡ 调试 · 加速 · 部署
📘 30章 完整版
| 动手实战
1
01
算子优化概述
嵌入式AI算子优化的意义、目标与挑战。
2
02
计算图优化
图融合、常量折叠、死代码消除。
3
03
内存布局优化
NHWC vs NCHW，数据排布对性能的影响。
4
04
循环优化
循环展开、循环分块、循环重排。
5
05
向量化编程
NEON指令集基础，SIMD在算子中的应用。
6
06
量化技术基础
INT8/FP16量化原理，量化感知训练。
7
07
卷积算子优化
im2col+GEMM，Winograd算法，直接卷积。
8
08
矩阵乘法优化
Strassen算法，分块矩阵乘法，微内核设计。
9
09
激活函数优化
ReLU/Sigmoid/Tanh的快速实现与查表法。
10
10
池化算子优化
最大池化与平均池化的高效实现。
11
11
归一化算子优化
BatchNorm与LayerNorm的融合与加速。
12
12
算子调试工具
gprof、perf、valgrind的使用与性能分析。
13
13
Profiling实战
使用ARM MAP/Streamline进行热点分析。
14
14
汇编级优化
内联汇编在关键算子中的使用技巧。
15
15
缓存优化
Cache Line对齐，数据预取，避免Cache Miss。
16
16
多线程优化
OpenMP与Pthreads在算子并行中的应用。
17
17
NPU算子适配
将CPU算子迁移到NPU的通用方法。
18
18
算子精度调试
数值稳定性分析，浮点误差排查。
19
19
自动化调优
AutoTVM与Ansor的调优原理与实践。
20
20
模型剪枝与稀疏算子
结构化剪枝，稀疏矩阵乘法优化。
21
21
Winograd卷积深入
F(2x2,3x3)与F(4x4,3x3)的实现细节。
22
22
FFT卷积
频域卷积的原理与适用场景。
23
23
Depthwise卷积优化
Channel-wise计算的加速技巧。
24
24
Transposed卷积优化
反卷积的计算等效与优化。
25
25
Eltwise算子优化
逐元素操作的向量化与融合。
26
26
Reshape与Permute优化
内存重排的零拷贝技巧。
27
27
算子单元测试
Google Test框架在算子验证中的应用。
28
28
算子性能回归
CI/CD中的性能门控与基线管理。
29
29
异构计算
CPU+GPU+NPU的算子调度与负载均衡。
30
30
综合实战
从模型到部署，完整算子优化案例复盘。