🧠 嵌入式深度学习 · 内存优化实战
📚 30章 从理论到部署 · 友好色系
📘
完整目录 · 点击跳转
⚡
01
内存瓶颈分析
模型参数量与中间特征图内存占用 · Flash与DRAM层级差异
进入
02
模型剪枝基础
结构化与非结构化剪枝 · L1/L2范数策略
进入
03
权重量化入门
FP32→INT8映射 · 对称/非对称量化选择
进入
04
训练后量化(PTQ)
校准数据集 · KL散度与MSE校准
进入
05
量化感知训练(QAT)
伪量化节点 · 直通估计器(STE)反向传播
进入
06
知识蒸馏
教师-学生网络 · 软标签与温度系数调参
进入
07
内存复用技术
In-Place操作 · 内存池设计 · 避免显存碎片
进入
08
算子融合策略
Conv+BN+ReLU融合 · 减少中间张量存储
进入
09
计算图优化
常量折叠 · 死代码消除 · 公共子表达式消除
进入
10
轻量化网络设计
深度可分离卷积 · 分组卷积 · ShuffleNet通道混洗
进入
11
模型部署格式
ONNX导出优化 · TensorRT层融合与动态张量
进入
12
TFLite微控制器
TFLM运行时内存分配 · arena大小估算
进入
13
内存带宽优化
DMA与双缓冲 · 数据预取与乒乓操作
进入
14
稀疏计算
CSR/CSC存储格式 · 硬件稀疏支持
进入
15
Winograd卷积
3x3卷积加速 · 减少乘法次数
进入
16
FFT卷积
频域卷积适用场景 · 大卷积核内存优势
进入
17
逐层量化
不同层不同位宽 · 敏感度分析
进入
18
混合精度训练
FP16+FP32混合 · Loss Scaling技术
进入
19
梯度检查点
以计算换内存 · 选择性保存中间激活
进入
20
模型并行与流水线
拆分到多设备 · 减少单设备内存压力
进入
21
内存压缩技术
激活值/梯度压缩 · 1-bit SGD通信压缩
进入
22
编译器优化
TVM自动调度 · XLA HLO优化
进入
23
硬件加速器
NPU/DSP本地内存 · 紧耦合内存(TCM)
进入
24
RTOS内存管理
静态/动态分配 · 内存保护单元(MPU)
进入
25
链接脚本与内存映射
权重放外部Flash · 运行时加载到RAM
进入
26
模型加密与保护
权重加密存储 · 解密后直接推理
进入
27
多任务内存共享
多模型同时运行 · 共享中间特征缓冲区
进入
28
内存泄漏检测
Valgrind · AddressSanitizer嵌入式使用
进入
29
性能剖析工具
ARM MAP · DLProf · Nsight Systems内存分析
进入
30
综合案例
STM32部署MobileNetV2 · 剪枝到量化完整流程
进入