什么是嵌入式AI
为什么需要模型压缩
课程目标与学习路径
开发环境与工具链概览
量化的数学原理
对称量化与非对称量化
量化参数(scale/zero-point)计算
训练后量化(PTQ)实战
量化感知训练(QAT)入门
量化误差分析与调试
剪枝分类(结构化/非结构化)
细粒度剪枝与向量剪枝
权重剪枝与激活剪枝
结构化剪枝(Channel/Filter)
剪枝率与性能权衡
基于L1范数的剪枝实战
蒸馏基本思想(Teacher-Student)
软标签与温度系数
蒸馏损失函数设计
特征层蒸馏(FitNet/AT)
关系蒸馏(RKD)
多教师蒸馏与自蒸馏
SVD分解原理
张量分解(Tucker/CP)
MobileNet/ShuffleNet设计思想
TensorFlow Lite量化部署
PyTorch Mobile(TorchScript)
ONNX Runtime量化
NVIDIA TensorRT优化
OpenVINO工具套件
TFLite Micro架构与移植
CMSIS-NN与ARM优化
NCNN/TNN/MNN框架对比
Tengine与Hailo NPU支持
自定义算子注册
CPU(NEON/AVX)
GPU(CUDA/OpenCL)
NPU(TPU/DPU)架构对比
模型格式转换(Keras->TFLite->ONNX)
输入输出张量绑定
内存管理策略
多线程与流水线优化
DMA与零拷贝技术
功耗与性能平衡
MobileNetV3量化与剪枝
YOLOv5s-Tiny部署到树莓派
人脸检测(MTCNN/RetinaFace)压缩
语义分割(DeepLabV3)轻量化
语音唤醒(DS-CNN/TC-ResNet)压缩
语音识别(Deepspeech2)量化部署
TinyBERT/DistilBERT蒸馏
ALBERT参数共享
Embedding层量化
精度回退问题
算子兼容性
量化敏感层分析
过拟合与欠拟合
模型大小
推理延迟/吞吐量
功耗
精度保持率(Top-1/Top-5)
NAS搜索轻量化架构
自动混合精度量化(HAQ)
自动剪枝策略
对抗攻击对压缩模型的影响
量化模型的鲁棒性分析
防御蒸馏技术
STM32部署TFLite Micro
使用CubeMX生成工程
Jetson Nano部署TensorRT
DeepStream视频分析
ESP32-S3部署TinyML
ESP-DL库推理
CI/CD流水线集成
模型版本管理(DVC/MLflow)
A/B测试与灰度发布
嵌入式AI发展趋势(TinyML/边缘计算)
学习资源推荐
项目实战建议