ONNX 从零到一 · 实战手册

1

ONNX 初探 核心概念

什么是ONNX？为什么需要ONNX？生态与核心价值

2

环境准备 依赖安装

安装ONNX、ONNX Runtime、Protobuf 及相关依赖

3

第一个ONNX模型 PyTorch导出

torch.onnx.export 导出最简单模型

4

模型可视化 Netron

使用Netron查看ONNX结构，理解计算图

5

ONNX基础语法 核心概念

Node、Graph、Tensor、ValueInfoProto 详解

6

ONNX数据类型 映射表

Tensor类型、float32/int64 等映射关系

7

ONNX算子详解 (上) 数学算子

Add, Sub, Mul, Div, MatMul

8

ONNX算子详解 (中) 激活·归一化

Relu, Sigmoid, BatchNormalization

9

ONNX算子详解 (下) 卷积·池化

Conv, MaxPool, AveragePool

10

模型结构解析 Python API

读取并打印ONNX模型结构信息

11

修改ONNX模型 节点编辑

修改节点属性、添加/删除节点

12

模型验证 onnx.checker

检查模型合法性

13

ONNX Runtime 基础 CPU推理

使用ORT进行模型推理 (CPU模式)

14

ORT 进阶 Session Options

配置线程数、优化级别

15

GPU 推理 CUDA / TensorRT

配置CUDAExecutionProvider 与 TensorRT

16

输入输出动态化 动态Batch

动态Batch Size 与 动态分辨率

17

模型量化入门 INT8量化

使用 onnxruntime.quantization

18

模型优化 onnx-simplifier

简化模型结构

19

模型融合 图优化

使用 onnxoptimizer 算子融合

20

自定义算子 Op 编写

编写自定义Op并通过ORT加载运行

21

ONNX 与 TensorFlow tf2onnx

将TF模型转为ONNX

22

ONNX 与 PyTorch 导出细节

深入 torch.onnx.export 参数

23

ONNX 与 OpenVINO Intel部署

部署到 Intel OpenVINO 平台

24

ONNX 与 Triton Server NVIDIA

使用 Triton 部署ONNX模型

25

模型安全 加密·签名

模型加密与签名验证，防篡改

26

模型调试 ORT调试工具

定位推理错误

27

性能分析 Profiling

ONNX Runtime 推理性能分析

28

边缘部署 ARM / RK3588

在边缘设备上运行ONNX模型

29

实战案例 (一) 图像分类

ResNet50 导出与部署

30

实战案例 (二) 目标检测

YOLOv8 导出与部署