嵌入式视觉模型量化部署实战

📚 共计 30 章节
01
嵌入式视觉概述
什么是嵌入式视觉 · 安防/自动驾驶/工业质检 · 传感器-处理器-算法架构
基础概念
02
模型量化基础
为什么量化 · 对称vs非对称 · 精度损失分析
数学原理
03
量化工具链介绍
TensorRT · ONNX Runtime · TFLite · NCNN · OpenVINO 对比
工具对比
04
PTQ 训练后量化实战
TensorRT INT8量化 · 校准数据集 · 精度评估调优
TensorRTINT8
05
QAT 量化感知训练
FakeQuantize节点 · QAT流程 · 与PTQ精度对比
PyTorch训练
06
模型导出与格式转换
PyTorch→ONNX · ONNX→TensorRT · ONNX→NCNN
转换ONNX
07
TensorRT 部署实战
构建engine · 动态batch · 多流推理优化
TensorRT优化
08
NCNN 部署实战
模型加载推理 · Vulkan GPU · ARM CPU优化
NCNN移动端
09
OpenVINO 部署实战
模型优化器 · IR模型 · 异构CPU+GPU执行
OpenVINOIntel
10
TFLite 部署实战
模型转换 · GPU/NPU Delegate · Android部署
TFLite移动端
11
模型剪枝技术
结构化vs非结构化 · 权重/梯度剪枝
剪枝压缩
12
知识蒸馏
教师-学生架构 · 蒸馏损失 · 嵌入式蒸馏策略
蒸馏轻量化
13
轻量化网络设计
MobileNet · ShuffleNet · EfficientNet-Lite 原理对比
架构轻量
14
嵌入式平台选型
Jetson · RK3588 · 算能BM1684 · 地平线征程
硬件选型
15
Jetson 平台部署实战
JetPack · TensorRT+DeepStream · 多路视频流
JetsonNVIDIA
16
RK3588 平台部署实战
RKNN工具链 · NPU驱动 · 模型转换推理
RK3588NPU
17
算能 BM1684 部署实战
SAIL SDK · TPU优化 · 多模型流水线
算能TPU
18
地平线征程部署实战
OE/BPU工具链 · 模型编译量化 · 端侧推理
地平线BPU
19
多模态模型部署
视觉+语言(CLIP)量化部署 · 多模态特征对齐
多模态CLIP
20
目标检测模型部署
YOLOv8+TensorRT · NMS优化 · FP16/INT8混合
YOLOv8检测
21
语义分割模型部署
DeepLabV3+ · NCNN部署 · 内存优化实时推理
分割DeepLab
22
关键点检测模型部署
HRNet+OpenVINO · 后处理加速
关键点HRNet
23
视频分析模型部署
行为识别TSN/TSM · 量化部署 · 光流加速
视频TSN
24
模型推理性能分析
Nsight/perf工具 · 计算瓶颈 · 内存带宽优化
Profiling优化
25
模型加密与保护
AES/RSA加密 · TEE安全环境 · 模型混淆
安全加密
26
端侧推理引擎开发
引擎架构 · 算子注册调度 · 内存池管理
引擎开发
27
模型部署 CI/CD
自动化测试 · 精度回归 · 性能基准测试
CI/CD测试
28
边缘计算与云边协同
边缘推理 · 云端训练更新 · OTA升级
边缘协同
29
项目案例:智能摄像头人脸识别
从训练到部署全流程 · 嵌入式人脸识别
项目人脸
30
项目案例:工业缺陷检测系统
模型量化 · 多相机同步 · 实时报警
项目缺陷检测