ONNX 模型精度验证与对齐实战 · 课程目录

ONNX 基础认知

什么是ONNX · 为什么需要ONNX · 生态概览

Python虚拟环境 · ONNX Runtime安装 · PyTorch/TF

模型导出入门

PyTorch → ONNX (torch.onnx.export)

模型导出进阶

TensorFlow → ONNX (tf2onnx)

ONNX 模型结构解析

计算图 · 节点 · 张量 · 数据类型

ONNX 算子详解

Conv · Relu · Gemm 及属性

ONNX 模型可视化

使用 Netron 查看模型结构

精度验证基础

什么是精度对齐 · 为什么需要精度对齐

数值比较方法

绝对误差 · 相对误差 · 余弦相似度

精度验证工具

ONNX Runtime 内置验证工具

手动精度验证

Python脚本逐层对比输出

批量验证策略

多输入多输出场景验证方案

常见精度问题

算子实现差异导致的精度偏差

数据类型问题

FP32 vs FP16 vs INT8 精度对比

动态形状问题

动态Batch · 动态分辨率场景处理

常量折叠问题

优化器常量折叠导致的精度变化

算子融合问题

Fuse操作对精度的影响分析

量化模型验证

QAT 与 PTQ 验证

自定义算子验证

自定义OP注册与精度对齐

多框架对齐

PyTorch vs ONNX Runtime vs TensorRT

自动化测试框架

pytest + ONNX Runtime 验证流水线

精度验证集成到持续集成流程

模型版本迭代中的精度回归检测

大规模模型验证

分布式验证方案与性能优化

精度调优技巧

调整算子精度模式 · 高精度数学库

ONNX Runtime 配置

Session Options 对精度的影响

Debugging 技巧

断点调试 · 日志打印 · 中间结果保存

图像分类 ResNet50 精度验证全流程

目标检测 YOLOv8 精度验证与对齐

NLP 模型 BERT 精度验证与对齐