01
模型转换概述
什么是模型转换 · 为什么需要 · 挑战与目标
基础导论
02
主流训练框架
PyTorch导出 · TensorFlow导出 · TF-TRT
PyTorchTensorFlow
03
ONNX标准详解
算子集与IR · 版本演进 · 优缺点分析
ONNX标准
04
ONNX Runtime
架构 · CPU/GPU执行 · 性能优化与量化
推理跨平台
05
TensorRT核心概念
层融合 · 精度校准 · 动态/静态shape
NVIDIA优化
06
TensorRT实战
ONNX→TensorRT · trtexec · C++/Python API
实战引擎
07
OpenVINO工具套件
模型优化器 · 推理引擎 · IR中间表示
IntelMO
08
OpenVINO部署实战
ONNX/PyTorch→IR · CPU/VPU部署
部署实战
09
Core ML与Apple生态
.mlmodel/.mlpackage · coremltools · ANE适配
AppleiOS
10
TFLite与移动端部署
转换流程 · FP16/INT8量化 · Delegate
移动端TFLite
11
NCNN与端侧推理
.param/.bin · onnx2ncnn · Vulkan/ARM
端侧腾讯
12
MNN与阿里巴巴
模型格式 · 转换工具 · CPU/GPU/OpenCL
阿里巴巴MNN
13
Paddle Lite与百度飞桨
.nb格式 · opt工具 · ARM/XPU/NPU
百度Paddle
14
TNN与腾讯优图
模型格式 · 转换工具 · 跨平台支持
腾讯跨平台
15
模型量化技术
对称/非对称 · PTQ与QAT · 校准数据集
量化INT8
16
模型剪枝与蒸馏
结构化/非结构化剪枝 · Logit/特征蒸馏
剪枝蒸馏
17
算子兼容性分析
Resize/TopK/Gather · 算子替换 · 自定义算子
算子兼容
18
动态shape处理
动态batch/分辨率 · Padding · 多profile
动态Shape
19
精度对齐与调试
数值误差 · FP32/FP16/INT8 · Polygraphy
精度调试
20
模型加密与保护
AES/RSA · 混淆 · TEE应用
安全加密
21
多后端统一推理框架
MMDeploy · Triton · ONNX Runtime EP
统一框架
22
模型转换的CI/CD
自动化流水线 · 回归测试 · 版本管理
CI/CDDevOps
23
边缘设备适配
Jetson · 树莓派 · RK3588 NPU
边缘NPU
24
Web端部署
Wasm · ONNX Runtime Web · TF.js · WebGPU
WebWasm
25
模型转换的常见坑
Reshape维度 · Constant折叠 · 控制流限制
避坑经验
26
性能Profiling工具
Nsight Systems · TensorRT Profiler · Perfetto
性能分析
27
模型转换的未来趋势
MLIR · 统一中间表示 · 硬件感知自动转换
趋势MLIR
28
案例实战1：ResNet50
PyTorch → TensorRT 完整转换与优化
图像分类实战
29
案例实战2：YOLOv8
PyTorch → OpenVINO → NCNN 跨平台部署
目标检测YOLO
30
案例实战3：BERT
PyTorch → ONNX → Core ML iOS端部署
NLPiOS