边缘设备图像分类模型部署实战 · 课程目录

边缘AI概述概念

边缘计算 · 为什么需要边缘AI · 智能安防/工业质检/自动驾驶

硬件平台选型对比

Jetson Nano / RK3588 / 树莓派 / Intel NUC · 算力功耗权衡

开发环境搭建工具链

交叉编译 · SSH · rsync · 系统镜像烧录与初始化

图像分类基础 CNN

卷积神经网络核心 · ResNet/MobileNet/EfficientNet 对比

模型训练与导出 PyTorch

训练分类模型 · 导出ONNX · 模型验证

模型优化技术(上) 量化

FP32 vs INT8 · PyTorch静态量化 · 精度评估

模型优化技术(下) 剪枝

Pruning · 知识蒸馏 · TensorRT优化简介

ONNX Runtime部署推理

安装ONNX Runtime · Python/C++ API · 性能基准

TensorRT部署(上) Engine

核心概念 · ONNX转Engine · FP16/INT8配置

TensorRT部署(下) 动态

Dynamic Shapes · 多Stream并发 · Profiling

OpenCV图像预处理预处理

Resize · 归一化 · BGR2RGB · 数据增强部署

视频流处理流水线

OpenCV读取摄像头/视频 · 帧率控制 · 多线程解码

推理框架封装接口

通用推理引擎接口 · 多后端切换 · 工厂模式

模型服务化(上) REST

Flask/FastAPI构建API · JSON/Base64 · 并发

模型服务化(下) gRPC

gRPC高性能通信 · Protobuf · 流式推理

边缘设备模型管理版本

模型版本管理 · 热加载/更新 · 健康检查与回滚

性能优化实战调优

CPU绑核 · 内存池 · DMA零拷贝 · NPU/GPU监控

多模型流水线级联

级联设计 · Pipeline调度 · 异步回调

边缘-云端协同协同

边缘预处理+云端推理 · 混合推理策略

安全与隐私加密

模型AES加密 · TLS通信 · 本地隐私 · 对抗防御

日志与监控可观测

结构化日志 · Prometheus · Grafana面板

容器化部署 Docker

多阶段构建 · docker-compose · 资源限制

OTA升级差分

OTA架构 · Delta升级 · 回滚策略 · 进度上报

项目实战(一) 智能门禁需求

需求分析 · 人脸数据集 · 模型选型训练

项目实战(二) 门禁优化量化

量化+剪枝 · Jetson Nano部署 · 性能调优

项目实战(三) 门禁Pipeline 端到端

人脸检测+识别+活体 · 端到端测试

项目实战(四) 工业缺陷 RK3588

数据采集标注 · ResNet18训练 · 部署RK3588

项目实战(五) 实时检测告警

实时检测系统 · 告警机制 · 产线集成经验

常见问题与调试 Debug

推理错误排查 · Valgrind · perf · 硬件故障

课程总结与展望趋势

TinyML · NPU进化 · 学习路径 · 社区资源