📘 ONNX 跨平台部署实战
30章
🚀 从入门到部署
01
ONNX 基础认知
什么是ONNX
为什么需要ONNX
生态与优势
02
环境搭建
安装ONNX Runtime
配置Python/C++
验证安装
03
模型导出实战
PyTorch导出
TensorFlow导出
常见问题
04
ONNX模型结构解析
计算图·节点·张量
Netron可视化
05
ONNX算子详解
常见算子
版本兼容性
自定义算子
06
模型优化与精简
ONNX Simplifier
常量折叠
节点融合
07
量化技术入门
动态量化
静态量化
量化感知训练
08
ONNX Runtime Python部署
推理接口
Session配置
输入输出处理
09
ONNX Runtime C++部署
环境初始化
模型加载
内存管理
10
跨平台编译
Windows编译
Linux编译
macOS编译
11
移动端部署
Android集成
iOS集成
性能调优
12
边缘设备部署
树莓派
Jetson Nano
RK3588适配
13
Web端部署
ONNX Runtime Web
WebAssembly
浏览器推理
14
性能基准测试
延迟测试
吞吐量测试
内存占用分析
15
多线程与异步推理
线程池配置
异步API
并发控制
16
GPU加速部署
CUDA支持
TensorRT集成
DML后端
17
模型加密与保护
模型加密方案
解密加载
安全考量
18
动态形状处理
动态batch
动态分辨率
Shape推理
19
多模型串联
Pipeline设计
内存复用
端到端优化
20
异常处理与日志
错误码解析
日志级别
调试技巧
21
ONNX与TensorRT集成
转换流程
精度校准
动态形状
22
ONNX与OpenVINO集成
模型转换
硬件适配
性能对比
23
ONNX与CoreML集成
iOS部署
ANE加速
模型转换
24
ONNX与NCNN集成
移动端优化
算子适配
量化部署
25
ONNX与TFLite集成
转换工具
量化方案
端侧推理
26
模型版本管理
版本号策略
兼容性测试
回滚机制
27
CI/CD集成
自动化测试
模型验证
部署流水线
28
监控与告警
推理延迟监控
错误率统计
告警策略
29
实战案例一：图像分类
ResNet50部署
30
实战案例二：目标检测
YOLOv8部署