ONNX是什么
为什么需要ONNX
生态与工具链概览
Python虚拟环境
ONNX Runtime安装
opset版本选择
torch.onnx.export参数
动态轴与静态轴
onnx.proto解读
Node与Graph概念
Netron可视化
onnxruntime推理
输出精度对比
shape一致性
onnx-simplifier
常量折叠
冗余节点消除
对称/非对称量化
scale/zero_point
模拟量化原理
PyTorch QAT流程
导出量化ONNX
Conv+BN融合
Conv+Relu融合
Gelu融合
Jetson系列
Rockchip RK3588
算能BM1684
aarch64交叉编译链
ONNX Runtime交叉编译
依赖库管理
trtexec工具
动态shape配置
FP16/INT8引擎
RKNN Toolkit安装
ONNX转RKNN
NPU推理调用
BMNNSDK2安装
ONNX转bmodel
多核并行推理
图像预处理加速
letterbox填充
BGR/RGB转换
onnxruntime profiling
耗时分析
瓶颈定位
PyTorch训练→Jetson Orin部署
全流程复盘