ONNX 精度实战
模型验证 · 调优 · 部署
📚 30 章完整版
v2.0
01
ONNX基础认知
什么是ONNX
为什么需要ONNX
生态与核心价值
02
环境搭建与工具链
Python环境
ONNX Runtime
Netron
onnx-simplifier
03
模型导出实战 (PyTorch)
torch.onnx.export
动态/静态轴
常见错误修复
04
模型导出实战 (TensorFlow)
tf2onnx
Keras转ONNX
算子映射
05
模型导出实战 (PaddlePaddle)
paddle2onnx
飞桨注意事项
动转静技巧
06
ONNX模型结构解析
Graph/Node/Tensor
Python API解析
修改模型结构
07
精度验证核心指标
余弦相似度
最大绝对误差
RMSE
置信度对比
08
精度验证工具搭建
通用精度脚本
逐层输出对比
自动化测试框架
09
ONNX Runtime推理详解
Session配置
IO Binding
内存优化
CPU/CUDA
10
算子精度问题排查
Softmax/LayerNorm
Resize
FP16/FP32差异
11
模型量化与精度
动态/静态量化
量化感知训练
精度损失恢复
12
输入输出对齐
预处理对齐
后处理对齐
NMS/Argmax
13
动态形状处理
动态Batch
动态分辨率
Shape推理优化
14
模型优化与简化
onnx-simplifier
常量折叠
冗余节点消除
15
算子融合与图优化
Layer Fusion
Constant Folding
Graph Optimizer
16
自定义算子开发
自定义算子注册
实现与流程
ONNX Runtime加载
17
精度调试工具链
onnxruntime-extensions
onnx2torch
可视化对比
18
多框架精度一致性
PyTorch vs ONNX Runtime
TensorRT
跨框架误差溯源
19
TensorRT部署精度
ONNX转TensorRT
FP16/INT8调优
Layer级监控
20
OpenVINO部署精度
ONNX转OpenVINO
IR模型验证
异构执行精度
21
CoreML与NCNN部署
ONNX转CoreML
转NCNN
移动端精度验证
22
大规模模型精度验证
分布式验证
自动化回归
CI/CD精度门禁
23
精度问题案例库
Resize对齐
BatchNorm融合误差
Padding差异
24
ONNX安全与合规
模型加密
模型签名
安全部署
25
ONNX版本兼容性
opset演进
算子版本变更
跨版本迁移
26
ONNX Runtime性能分析
Profiling工具
性能瓶颈定位
内存延迟优化
27
ONNX模型压缩
权重剪枝
知识蒸馏
低秩分解
压缩后验证
28
ONNX可视化与调试
Netron高级用法
GraphSurgeon
结构编辑
29
端到端精度验证Pipeline
全链路监控
自动化报告
告警机制
30
综合实战项目
PyTorch到ONNX部署
全流程调优
最佳实践