第 01 章
什么是TensorRT、为什么需要模型转换、PyTorch与TensorRT的生态关系。
第 02 章
CUDA、cuDNN、TensorRT、PyTorch的版本匹配与安装。
第 03 章
torch.nn.Module、模型定义、模型保存与加载（state_dict与torch.jit.trace）。
第 04 章
ONNX是什么、为什么选择ONNX、PyTorch导出ONNX的基本流程。
第 05 章
参数说明、动态轴设置、输入输出类型指定。
第 06 章
onnxruntime推理验证、onnx.checker检查、常见导出错误。
第 07 章
Engine、Builder、Network、Optimization Profile、Calibrator。
第 08 章
trtexec工具使用、版本确认、样例运行。
第 09 章
trtexec命令行转换、Python API转换。
第 10 章
Builder配置、Network定义、Engine序列化与反序列化。
第 11 章
Dynamic Shape原理、Optimization Profile配置、K min/max/opt设置。
第 12 章
精度与性能权衡、FP16转换、INT8校准原理与实现。
第 13 章
Calibrator类编写、校准数据集准备、校准过程监控。
第 14 章
Engine加载、Context创建、Buffer管理、推理循环。
第 15 章
Stream概念、多线程安全、并发推理性能优化。
第 16 章
TensorRT Plugin原理、IPluginV2接口、自定义算子注册。
第 17 章
Resize、Pad、Gather等算子处理、Fallback策略。
第 18 章
NVIDIA Nsight Systems使用、Layer Profiling、瓶颈定位。
第 19 章
部分模型用TensorRT加速、数据预处理在PyTorch中完成。
第 20 章
ResNet50从PyTorch到TensorRT完整流程。
第 21 章
YOLOv5/v8 ONNX导出、NMS插件处理、后处理优化。
第 22 章
DeepLabV3 ONNX导出、动态形状处理、后处理加速。
第 23 章
BERT模型ONNX导出、Attention Mask处理、TensorRT推理。
第 24 章
多输入绑定、多输出解析、动态Batch处理。
第 25 章
模型仓库配置、并发推理、动态Batch。
第 27 章
Shape mismatch、Unsupported op、Memory不足等。
第 28 章
Layer Fusion、Kernel Auto-Tuning、Workspace设置。
第 29 章
新API变化、性能提升、新支持的算子。
第 30 章
从PyTorch训练到TensorRT生产部署全流程。