2、版本兼容性核心概念：API兼容性、ABI兼容性、模型序列化兼容性

好，咱们直接切入正题。做TensorRT部署，最头疼的是什么？我个人觉得，不是模型精度不够，也不是推理速度上不去，而是——版本不兼容。你辛辛苦苦在10.0上导出的引擎，拿到客户9.0的机器上，啪，崩了。这种场面，我见过太多次了。

所以这一节，咱们把版本兼容性拆开揉碎。说白了，就三个层面：API兼容性、ABI兼容性、模型序列化兼容性。搞懂这三个，你就能在版本升级时少踩一半的坑。

2.1 API兼容性：你的代码能不能直接编译通过？

API兼容性，最直观的理解就是：你写的C++或Python代码，换了个TensorRT版本，能不能直接编译通过、正常运行？

举个例子。TensorRT 8.x里创建builder的写法是：

nvinfer1::IBuilder* builder = nvinfer1::createInferBuilder(gLogger);

到了TensorRT 10.0，这个接口被标记为deprecated了。新写法变成了：

auto builder = nvinfer1::createInferBuilder(gLogger, 1);  // 第二个参数是版本标志

你看，参数变了。如果你直接拿旧代码去编译10.0，编译器会报错。这就是API不兼容。

我在项目中遇到过最典型的情况：公司内部有个推理框架，封装了TensorRT的builder、network、engine创建逻辑。每次TensorRT大版本升级，这个框架就得跟着改一遍。后来我们学乖了，加了一层抽象接口，把TensorRT的API调用全部隔离起来。这样升级时只需要改底层适配层，上层业务代码纹丝不动。

2.2 ABI兼容性：链接时能不能对上号？

ABI兼容性，比API更底层。它关注的是二进制层面的兼容。说白了，就是你的程序编译时链接的TensorRT动态库（.so或.dll），跟运行时加载的那个，是不是同一个“人”。

为什么会这样？C++有个特性叫名字改编（name mangling）。同一个函数，不同编译器、不同版本，编译出来的符号名可能不一样。比如：

// 你的代码里调用了
nvinfer1::ICudaEngine* engine = builder->buildSerializedNetwork(...);

// 编译时链接的是TensorRT 8.6的libnvinfer.so
// 运行时加载的是TensorRT 9.0的libnvinfer.so
// 结果：符号找不到，直接崩溃

这就是ABI不兼容。你的代码编译通过了（API兼容），但运行时链接器找不到对应的符号，或者找到了但内存布局对不上。

兼容性类型	关注层面	典型表现	修复方式
API兼容	源代码	编译报错	修改代码适配新API
ABI兼容	二进制	运行时崩溃、符号找不到	重新编译、统一运行时版本

2.3 模型序列化兼容性：引擎文件能不能跨版本用？

这个最坑，没有之一。模型序列化兼容性，指的是你用一个版本TensorRT导出的.engine或.plan文件，能不能在另一个版本上加载并推理。

答案很残酷：通常不能。TensorRT的引擎文件是二进制格式，里面包含了版本号、网络结构、权重、kernel选择信息、内存分配信息等等。不同版本之间，这些信息的编码方式、结构体布局可能完全不同。

举个例子：

// TensorRT 8.x 导出的引擎
// 文件头里写的是 "TRTv8.6.1"

// 在TensorRT 9.0上加载
nvinfer1::IRuntime* runtime = nvinfer1::createInferRuntime(gLogger);
nvinfer1::ICudaEngine* engine = runtime->deserializeCudaEngine(engineData, engineSize);
// 结果：返回nullptr，或者直接segmentation fault

我记得有一次，客户的生产环境是TensorRT 8.4，我们开发环境是8.6。我们觉得都是8.x，应该没问题吧？结果引擎加载后推理结果全是错的。后来查了NVIDIA的release notes，发现8.4到8.6之间改了kernel缓存格式。嗯，从那以后我坚持：导出和加载的版本必须完全一致。

2.4 三个兼容性的关系：一张图说清楚

你想想看，这三个兼容性其实是层层递进的：

1. API兼容是门槛——代码能不能编译过
2. ABI兼容是桥梁——编译后的二进制能不能链接上
3. 序列化兼容是终点——最终产出的引擎文件能不能用

任何一个环节出问题，你的部署就卡住了。而且这三个问题往往同时出现。比如你从TensorRT 8.x升级到10.x，API变了（需要改代码），ABI变了（需要重新编译），序列化格式也变了（需要重新导出引擎）。

所以，我的建议是：不要试图跨大版本兼容。老老实实统一版本，或者做好版本隔离。比如用Docker容器，每个容器里装一个特定版本的TensorRT，互不干扰。