PyTorchTensorFlowONNXCaffeTFLite
Docker 容器化CUDA/cuDNNConda 隔离
torch.jit.tracetorch.jit.script实战
SavedModelFrozen GraphTF-TRT
ONNX 算子标准onnxruntimeonnx-simplifier
TensorRT 安装onnx-tensorrt动态 shape
Apple CoreMLPyTorch→CoreMLiOS 集成
TFLite ConverterDelegateAndroid 集成
腾讯 NCNNparam/binVulkan 加速
百度 Paddle Lite模型压缩ARM CPU
iOS/Android 原生CameraX+GPU
TensorFlow.jsONNX WebWebGPU
Triton ServerTorchServeKubernetes