嵌入式平台模型压缩与加速优化实战 · 课程目录

📌 嵌入式平台 · 全链路优化 🧩 点击卡片跳转对应章节

01课程导论与背景

嵌入式AI兴起 · 压缩必要性 · 学习路径

02模型量化基础

量化定义 · 定点/浮点 · 收益与挑战

03均匀量化与非线性量化

对称/非对称 · 对数量化 · 查表量化

04训练后量化(PTQ)

PTQ原理 · 校准集 · KL散度 · TensorRT实战

05量化感知训练(QAT)

STE · 伪量化节点 · PyTorch QAT实战

06模型剪枝入门

结构化/非结构化 · 细粒度剪枝 · 核级剪枝

07结构化剪枝

通道/滤波器剪枝 · BN-γ · VGG16实战

08剪枝策略与调度

一次性vs迭代 · 剪枝率 · 彩票假设

09知识蒸馏基础

教师-学生 · 软/硬标签 · 温度系数

10知识蒸馏进阶

Logits/特征/关系蒸馏 · Distiller实战

SVD · CP · Tucker分解 · 卷积应用

12轻量化网络设计

深度可分离 · MobileNet · ShuffleNet · EfficientNet-Lite

算子融合 · 内存布局 · Winograd卷积

NPU/DSP/GPU · 异构计算 · OpenCL/Vulkan

TVM · AutoTVM · XLA · JIT编译

16TensorRT实战

工作流 · 动态形状 · INT8校准

17ONNX与模型转换

ONNX格式 · PyTorch/TF转ONNX · ONNX Runtime

18NCNN与TNN框架

腾讯NCNN · TNN对比 · 移动端部署

19MNN与Paddle Lite

阿里MNN · 百度Paddle Lite · 引擎选型

20TFLite与MediaPipe

TFLite量化 · Delegate加速 · MediaPipe Pipeline

21模型加密与安全

AES/RSA · 混淆加壳 · 安全多方计算

22模型压缩工具链

NNI · PocketFlow · Distiller · OpenVINO

23自动化压缩技术

AutoML · HAQ · AMC自动剪枝

24边缘端部署实战(一)

树莓派+TensorRT · YOLOv5 · 功耗分析

25边缘端部署实战(二)

Jetson Nano · ResNet-50 · DLA加速

26移动端部署实战

Android+NCNN · MobileNetV3 · 内存优化

27IoT端部署实战

STM32+TFLite Micro · 语音唤醒 · 极限优化

模型大小 · 延迟 · 吞吐 · 功耗 · 精度权衡

29前沿趋势与挑战

量化极限 · 稀疏化 · NAS · 存算一体

30综合项目实战

PyTorch→嵌入式全流程 · 量化+剪枝+蒸馏+编译