ONNX算子兼容性深度排查

1

ONNX生态全景 01.html

ONNX是什么、为什么需要ONNX、在AI部署中的位置、主流框架支持情况

2

ONNX Runtime核心 02.html

ORT架构解析、Session创建与运行、Execution Provider机制、性能调优参数

3

算子定义规范 03.html

OpSet版本机制、算子注册与查找、输入输出张量类型、属性定义规则

4

数据类型兼容性 04.html

Tensor数据类型映射、float16/bfloat16/int8支持情况、类型提升规则、精度损失分析

5

形状推断与动态形状 05.html

静态形状 vs 动态形状、形状推断规则、动态轴处理、Reshape与Gather的坑

6

控制流算子 06.html

If、Loop、Scan算子详解、循环展开策略、TensorFlow控制流转换、PyTorch动态图导出

7

张量操作算子 07.html

Reshape/Transpose/Concat/Split/Gather/Slice/Expand/Tile/Flatten/Unsqueeze/Squeeze

8

数学运算算子 08.html

Add/Sub/Mul/Div/MatMul/Gemm/Softmax/LogSoftmax/ReduceMean/ReduceSum

9

激活函数算子 09.html

Relu/Sigmoid/Tanh/LeakyRelu/PRelu/Elu/Gelu/Selu/Clip/HardSigmoid

10

归一化算子 10.html

BatchNormalization/LayerNormalization/InstanceNormalization/GroupNormalization

11

卷积与池化算子 11.html

Conv/ConvTranspose/MaxPool/AveragePool/GlobalMaxPool/GlobalAveragePool

12

循环神经网络算子 12.html

RNN/GRU/LSTM/SimpleRNN/BidirectionalRNN、序列长度处理、初始状态传递

13

注意力机制算子 13.html

MultiHeadAttention/Attention/CrossAttention、Mask处理、KV Cache导出

14

图像预处理算子 14.html

Resize/Crop/ColorConvert/Normalize/ImageDecoder、预处理与模型融合

15

自定义算子开发 15.html

CustomOp原理、注册流程、C++实现、Python封装、性能优化技巧

16

算子兼容性检查工具 16.html

onnxruntime的shape_inference、onnx.checker、onnxruntime.transformers

17

PyTorch导出ONNX 17.html

torch.onnx.export参数详解、dynamic_axes、opset_version、export_modules_as_functions

18

TensorFlow导出ONNX 18.html

tf2onnx工具、Keras模型转换、SavedModel转换、控制流处理

19

PaddlePaddle导出ONNX 19.html

paddle2onnx工具、动转静导出、自定义算子映射、精度对齐

20

ONNX模型优化 20.html

常量折叠、算子融合、冗余消除、量化感知训练、INT8量化

21

ONNX模型验证 21.html

数值精度对比、输出形状验证、性能基准测试、回归测试框架

22

ONNX模型调试 22.html

中间层输出提取、断点调试、可视化工具Netron、日志分析

23

ONNX模型转换常见错误 23.html

UnsupportedOperator、TypeError、ShapeMismatch、AttributeError

24

ONNX模型部署实战 24.html

CPU部署优化、GPU部署优化、TensorRT集成、OpenVINO集成

25

ONNX模型安全 25.html

模型加密、模型签名、防篡改、隐私保护、合规性检查

26

ONNX模型版本管理 26.html

OpSet版本演进、向后兼容性、版本迁移策略、多版本共存

27

ONNX模型跨平台部署 27.html

Windows/Linux/Android/iOS/WebAssembly部署要点

28

ONNX模型性能分析 28.html

Profiling工具、算子耗时分析、内存分析、IO瓶颈定位

29

ONNX模型大规模部署 29.html

模型分片、分布式推理、负载均衡、弹性伸缩

30

ONNX未来趋势 30.html

ONNX 2.0展望、与MLIR融合、动态shape原生支持、社区生态发展

ONNX 算子·深度排查