📘 框架迁移与适配实战
30章 · 英伟达GPU
⚡ 风格 · 活力全栈
1
框架生态全景
对比
TensorFlow/PyTorch/MXNet/PaddlePaddle · CUDA/cuDNN/TensorRT 概览
2
CUDA编程基础
核函数
GPU线程模型 · 内存管理 · 核函数编写与优化
3
cuDNN加速原理
卷积/池化/归一化GPU加速 · cuDNN API · 性能调优
4
TensorRT推理优化
图优化·层融合 · FP16/INT8/INT4 · 动态形状 · Python/C++
5
PyTorch GPU适配
CUDA张量 · DataLoader · AMP · DDP/FSDP
6
TensorFlow GPU适配
tf.data流水线 · XLA · TPU混合 · TF-TRT
7
PaddlePaddle GPU适配
飞桨算子融合 · Fleet · Paddle Inference · 昇腾/寒武纪
8
模型迁移实战(一)
PyTorch→TF
ONNX中间表示 · 算子兼容性 · 精度对齐
9
模型迁移实战(二)
TF→PyTorch
权重转换 · 动态/静态图 · 自定义算子
10
模型迁移实战(三)
Paddle→其他
X2Paddle · 算子映射 · 性能验证
11
混合精度训练(AMP)深度解析
FP16/BF16 · 损失缩放 · Transformer Engine
12
分布式训练框架
NCCL · Ring/Tree All-Reduce · 并行策略选择
13
模型并行与流水线并行
Megatron-LM/DeepSpeed · 1F1B · ZeRO优化
14
GPU显存优化技术
显存复用 · Gradient Checkpointing · ZeRO-Offload
15
推理部署优化
TensorRT序列化 · 动态batch · Triton Inference Server
16
模型压缩与量化
剪枝 · 知识蒸馏 · QAT/PTQ · TensorRT Model Optimizer
17
GPU集群管理与调度
Slurm · GPU Operator · MIG · DCGM/Prometheus
18
性能分析与调优工具
Nsight Systems/Compute · PyTorch Profiler · 火焰图
19
算子开发与自定义Kernel
CUDA自定义算子 · Triton/TVM · 性能基准
20
多模态模型适配
CLIP/BLIP · 多模态流水线 · 跨模态注意力
21
大语言模型(LLM)适配
Transformer Engine · FlashAttention-2/3 · vLLM/TGI
22
生成式AI模型适配
Stable Diffusion · UNet/VAE TensorRT · ControlNet/LoRA
23
强化学习与GPU
RLlib/Stable-Baselines3 · 环境并行 · IMPALA/A3C
24
图神经网络(GNN)适配
PyG/DGL · 消息传递并行 · 大规模GPU采样
25
时序模型与GPU
Transformer/Informer · 长序列注意力 · 多变量并行
26
推荐系统适配
DLRM/DeepFM · HugeCTR · Embedding压缩 · 分布式
27
边缘端GPU部署
Jetson Orin/Nano · TensorRT · DeepStream/TAO
28
容器化与CI/CD
Docker + CUDA · K8s调度 · MLOps · 模型版本管理
29
安全与合规
MIG隔离 · 模型加密 · 联邦学习 · 合规审计
30
未来趋势与前沿
Blackwell · CXL · 量子+GPU · AI编译器 · 国产GPU