边缘设备深度学习优化指南
🧩 30 章 · 从入门到实战
v2.0
01
边缘计算概述
定义·演进
智能安防
工业质检
自动驾驶
02
边缘硬件选型
芯片·开发板
GPU/FPGA/ASIC/NPU
Jetson
RK3588
K210
03
模型轻量化基础
精度·速度
量化直觉
剪枝直觉
轻量化动机
04
模型量化 (上)
PTQ
对称/非对称
校准数据集
训练后量化
05
模型量化 (下)
QAT
量化感知训练
伪量化节点
PyTorch实现
06
模型剪枝
结构化·非结构化
L1/L2范数
通道剪枝
PyTorch实战
07
知识蒸馏
教师-学生
软/硬标签
温度系数T
蒸馏损失
08
轻量化网络设计
MobileNet·ShuffleNet
MobileNet V1/V2/V3
EfficientNet-Lite
GhostNet
09
注意力机制轻量化
SENet·CBAM
ECA-Net
轻量级注意力对比
10
神经架构搜索(NAS)
搜索空间·策略
DARTS
ProxylessNAS
三大要素
11
模型转换与中间表示
ONNX
ONNX协议
算子兼容性
TensorRT/OpenVINO导入
12
TensorRT加速实战
层融合·动态形状
精度校准
C++/Python API
13
OpenVINO部署
MO·IE
模型优化器
推理引擎API
异构执行
14
NCNN与TNN框架
腾讯·移动端
NCNN架构
TNN优化
CPU/GPU加速
15
TFLite & MediaPipe
Delegate加速
TFLite量化
GPU/NNAPI
MediaPipe Pipeline
16
Core ML & ANE
Apple神经网络
模型转换
ANE利用
Xcode调试
17
Paddle Lite & MNN
百度·阿里
Paddle Lite部署
MNN算子优化
端侧引擎对比
18
模型加密与安全
混淆·TEE
同态加密入门
可信执行环境
边缘安全
19
边缘推理引擎选型
横向对比
延迟/吞吐/内存
选型决策树
20
算子优化与内核编写
im2col·Winograd
手写卷积优化
ARM Neon
汇编级优化
21
内存优化策略
内存池·复用
张量复用
in-place
碎片整理
22
流水线并行与异步推理
多线程Pipeline
生产者-消费者
异步推理队列
23
多模型协同推理
级联·集成
特征共享
动态模型切换
24
边缘端数据预处理优化
图像解码加速
libjpeg-turbo
归一化融合
硬件增强
25
模型热更新与OTA
原子更新·回滚
版本管理
差分更新
回滚机制
26
性能剖析与调优工具
Nsight·VTune
Perfetto
自定义Profiler
27
功耗优化
DVFS·休眠唤醒
动态电压频率调整
计算/内存平衡
28
端侧训练(On-Device)
联邦·增量
联邦学习
增量学习
梯度压缩
29
边缘AI安全与隐私
对抗·水印
差分隐私
模型水印
安全启动链
30
综合实战：智能门锁人脸识别
全流程
模型选型·量化剪枝·TensorRT·功耗调优