⚡ 精度·速度 平衡的艺术

嵌入式AI 30章
🎯 从入门到实战 🧩 轻量化·部署 🤖 30个完整项目
01嵌入式AI概述
什么是嵌入式AI、精度与速度平衡、典型应用场景:智能家居·工业视觉·可穿戴
02模型量化基础
对称/非对称量化数学原理、量化对精度与推理速度的影响分析
03模型剪枝入门
结构化/非结构化剪枝、L1/L2范数策略、剪枝后微调技巧
04知识蒸馏技术
教师-学生网络、蒸馏损失函数、温度参数、软/硬标签权衡
05轻量化网络设计
MobileNet深度可分离卷积、ShuffleNet通道混洗、EfficientNet复合缩放
06硬件加速基础
NPU/DSP/GPU架构差异、内存带宽瓶颈、计算单元利用率
07模型部署流程
PyTorch/TF → ONNX → TFLite/NCNN 链路、精度验证与回归测试
08量化感知训练 QAT
伪量化节点插入、训练策略调整、与后训练量化(PTQ)对比
09混合精度量化
不同层位宽(INT8/INT16/FP16)、敏感层识别、硬件支持
10通道剪枝实战
基于BN层gamma剪枝、通道选择算法、剪枝率自动搜索
11模型蒸馏实战
同构/异构蒸馏、多教师蒸馏、自蒸馏方法
12神经网络架构搜索
搜索空间定义、强化学习/进化/梯度方法、代理指标设计
13模型压缩工具链
TensorRT/OpenVINO/NCNN/TFLite 压缩能力对比与选型
14推理引擎优化
算子融合、内存复用、图优化、异步推理流水线
15模型加速数学技巧
Winograd卷积、FFT卷积、矩阵分解(SVD/CP分解)
16嵌入式平台适配
ARM NEON优化、RISC-V优化、异构计算调度
17模型精度评估体系
Top-1/5、mAP、F1-score、延迟吞吐量、功耗测量
18数据增强与精度保持
CutMix/MixUp/AutoAugment、对抗训练提升鲁棒性
19模型校准技术
校准数据集选择、KL散度/均方误差/熵、精度恢复
20动态量化技术
动态范围量化、逐层/逐通道量化、NLP模型应用
21模型稀疏化
权重/激活/梯度稀疏化、稀疏矩阵存储(CSR/CSC)
22模型二值化
二值神经网络(BNN)、XNOR-Net/DoReFa-Net、精度损失恢复
23硬件协同设计
算法-硬件联合优化、定制算子、数据流架构适配
24模型版本管理与迭代
模型注册中心、A/B测试、灰度发布、回滚策略
25模型监控与退化检测
生产精度监控、数据漂移检测、自动回滚机制
26多任务模型压缩
共享Backbone、任务特定剪枝、多任务蒸馏
27模型安全与隐私
模型加密、混淆推理、差分隐私在压缩模型中的应用
28边缘-云协同推理
模型分片、自适应推理(Early Exit)、计算卸载决策
29模型压缩前沿趋势
Transformer/LLM量化剪枝、脉冲神经网络SNN、存算一体
30综合实战项目
从零构建嵌入式AI系统:目标检测/语音唤醒/人体关键点,全流程优化