- 什么是ONNX
- 诞生背景与优势
- 生态全景图
- 与PyTorch/TF关系
- Python环境
- ONNX核心库
- onnxruntime安装
- Netron & protobuf
- torch.onnx.export
- 动态/静态轴
- 命名规范
- 常见报错
- tf2onnx工具
- Keras转换
- SavedModel
- op映射差异
- ModelProto/GraphProto
- Node & Tensor
- ValueInfoProto
- 元数据读写
- Conv/Gemm/Relu
- 算子版本Opset
- 自定义算子
- 兼容性检查
- Netron深度使用
- 节点信息
- shape追踪
- 调试技巧
- onnxruntime推理
- 精度对比
- checker检查
- shape不一致
- onnx-simplifier
- onnxoptimizer
- 量化感知训练
- 动态量化
- ORT架构
- Session配置
- CPU/CUDA EP
- 日志调试
- IO Binding
- 内存复用
- 多Session
- 并行&线程池
- C++ API
- 内存管理
- 跨平台编译
- Profiling
- Java API
- JNI原理
- Android集成
- 性能调优
- Python API
- Flask/FastAPI
- 批量推理
- 异步处理
- TensorRT集成
- CUDA EP
- FP16推理
- 动态shape
- OpenVINO
- MKL-DNN
- 线程/NUMA
- AVX指令集
- ARM CL
- Qualcomm SNPE
- RKNN/NPU
- 模型裁剪
- ORT Web
- WebAssembly
- 浏览器推理
- 加载优化
- 延迟监控
- 吞吐量
- 异常检测
- Prometheus+Grafana
- Docker镜像
- Kubernetes
- GPU共享隔离
- 弹性伸缩
- Triton架构
- Model Repository
- 并发加载
- 动态批处理