📘 边缘端模型部署·硬件适配实战
30章 · 从入门到部署
⚡ 友好色系
01
边缘计算概述
边缘计算定义 · 与云计算区别 · 工业视觉/智能家居/自动驾驶
02
硬件选型基础
CPU/GPU/NPU/FPGA/ASIC · 算力TOPS与功耗权衡
03
主流边缘硬件平台概览
Jetson · Coral · Movidius · RK3588 · 树莓派
04
NVIDIA Jetson平台详解
Nano/Orin/TX2 · JetPack SDK · CUDA环境配置
05
Jetson模型部署实战
TensorRT量化 · PyTorch推理加速 · 性能调优
06
Google Coral平台详解
Edge TPU架构 · Mendel Linux · PyCoral库
07
Coral模型部署实战
TFLite编译为Edge TPU · 分类/检测示例
08
Intel Movidius & OpenVINO
神经计算棒2 · OpenVINO安装 · 模型优化器
09
OpenVINO模型部署实战
ONNX转IR · CPU/VPU部署 · 性能对比
10
Rockchip RK3588与NPU
芯片架构 · RKNN Toolkit · NPU驱动
11
RK3588模型部署实战
PyTorch转RKNN · NPU推理 · 精度速度评估
12
树莓派与轻量级部署
4B/5硬件限制 · ARM优化 · ONNX Runtime
13
模型压缩技术（上）
量化INT8/FP16 · 剪枝 · 知识蒸馏原理
14
模型压缩技术（下）
QAT量化感知 · NNI剪枝 · TF Model Optimization
15
ONNX作为中间格式
模型导出 · ONNX Runtime · 算子兼容性修复
16
TensorRT深度优化
动态形状 · 层融合 · 多流推理 · DLA加速
17
TFLite与边缘部署
模型转换 · 委托机制GPU/NPU · 量化优化
18
OpenCV与边缘视觉优化
ARM编译优化 · GStreamer加速 · 预处理加速
19
多模型流水线设计
串行/并行 · 内存复用 · 异步推理回调
20
边缘端数据预处理
图像归一化 · 数据增强 · OpenCV/numpy优化
21
边缘端模型版本管理
文件组织 · 版本策略 · 灰度发布 · 模型仓库
22
边缘端日志与监控
syslog/自定义 · 帧率/延迟采集 · 远程监控
23
边缘端OTA升级
固件升级 · 模型热更新 · 差分升级 · 回滚
24
边缘端安全与加密
AES/RSA模型加密 · Secure Boot · TEE简介
25
边缘端功耗管理
DVFS · 休眠唤醒 · 低功耗推理调度
26
边缘端通信协议
MQTT · gRPC · WebSocket · Protobuf/FlatBuffers
27
边缘端与云端协同
端-云架构 · 训练在云端 · 推理边缘 · 数据闭环
28
实战项目一：智能门禁系统
人脸检测+识别 · MobileNet+FaceNet · 调优
29
实战项目二：工业缺陷检测
PCB板检测 · YOLOv5训练量化 · Jetson部署
30
实战项目三：智能零售货柜
商品识别 · 多模型协同 · 实时视频流 · 数据同步