第01章
量化基础与迁移动机
为什么从CPU迁移到GPU？量化计算的核心优势、GPU架构概览（CUDA核心、显存层次）、典型应用场景（大模型推理、科学计算）。
基础动机架构
第02章
环境准备与工具链搭建
NVIDIA驱动安装、CUDA Toolkit配置、cuDNN库集成、Docker镜像构建、Python虚拟环境管理（conda/pip）。
环境CUDADocker
第03章
性能基准测试与评估
CPU基线性能测试（PyTorch/ONNX Runtime）、GPU加速比计算、Profiling工具使用（Nsight Systems、nvprof）、瓶颈分析。
性能Profiling基准
第04章
数据加载与预处理迁移
从CPU多进程DataLoader到GPU Direct I/O、使用NVIDIA DALI加速数据流水线、内存映射文件与零拷贝技术。
数据DALIIO
第05章
模型定义与算子迁移
PyTorch模型从CPU到GPU的代码修改（.to(device)）、自定义CUDA算子开发入门、使用TorchScript优化模型。
算子CUDATorchScript
第06章
训练流程迁移实战
单GPU训练改造、数据并行（DataParallel/DistributedDataParallel）、混合精度训练（AMP）、梯度累积与同步。
训练并行AMP
第07章
推理部署迁移实战
ONNX导出与TensorRT优化、GPU推理服务化（Triton Inference Server）、动态批处理与并发控制。
推理TensorRTTriton
第08章
内存管理与显存优化
显存监控（nvidia-smi）、梯度检查点（Gradient Checkpointing）、显存碎片整理、CPU-GPU异步传输。
显存优化检查点
第09章
分布式训练进阶
多节点通信（NCCL/RCCL）、模型并行（张量并行/流水线并行）、ZeRO优化器、Horovod框架集成。
分布式NCCLZeRO
第10章
量化感知训练（QAT）迁移
QAT原理与流程、在GPU上实现QAT（PyTorch FX/ TensorRT）、校准数据集准备、精度调优。
QAT量化校准
第11章
后训练量化（PTQ）迁移
PTQ流程（TensorRT/ONNX Runtime）、动态量化与静态量化、KL散度校准、INT8/INT4量化实战。
PTQINT8KL散度
第12章
稀疏化与剪枝迁移
结构化剪枝与非结构化剪枝、GPU上的稀疏矩阵运算（cuSPARSE）、NVIDIA ASP（自动稀疏性）工具。
剪枝稀疏cuSPARSE
第13章
算子融合与图优化
水平融合与垂直融合、TVM/AutoTVM自动调优、XLA编译优化、TensorRT层融合策略。
融合TVMXLA
第14章
流水线并行与异步执行
GPU流（CUDA Streams）与事件、异步数据预取、流水线气泡优化、重叠计算与通信。
流水线异步Stream
第15章
混合精度训练（AMP）深入
FP16/BF16/FP8格式对比、Loss Scaling策略、Master Weights管理、NVIDIA Transformer Engine。
AMPFP8Transformer
第16章
大规模模型推理优化
KV Cache优化、PageAttention（vLLM）、Continuous Batching、FlashAttention原理与实现。
推理vLLMFlashAttn
第17章
多模态模型迁移
视觉模型（ResNet/ViT）迁移、语言模型（BERT/GPT）迁移、多模态对齐与融合、GPU显存分配策略。
多模态ViTGPT
第18章
强化学习（RL）迁移
GPU加速环境模拟（Isaac Gym）、策略网络与价值网络迁移、分布式RL训练（RLlib/SeedRL）。
强化学习IsaacRLlib
第19章
图神经网络（GNN）迁移
GPU上的图采样与聚合（DGL/PyG）、消息传递并行化、大规模图分区策略。
GNNDGL图分区
第20章
科学计算与HPC迁移
CUDA Fortran/C++迁移、cuBLAS/cuFFT库使用、GPU上的FFT与矩阵运算、MPI+GPU混合编程。
HPCcuBLASMPI
第21章
容器化与编排
Docker GPU镜像构建、Kubernetes GPU调度（device plugin）、弹性训练与自动扩缩容。
K8sDocker弹性
第22章
监控与日志系统
GPU指标采集（Prometheus + DCGM）、训练日志结构化（MLflow/WandB）、异常检测与告警。
监控PrometheusMLflow
第23章
成本优化与资源管理
GPU实例选型（A100/H100/L40S）、Spot实例使用策略、多租户隔离与QoS保障。
成本实例QoS
第24章
安全与合规
GPU环境安全基线、模型加密与混淆、数据脱敏与隐私计算（GPU加速同态加密）。
安全加密隐私
第25章
故障排查与调试
常见GPU错误（OOM/Illegal Memory Access）、CUDA Debugging（cuda-gdb）、NVRM错误日志分析。
调试cuda-gdbOOM
第26章
性能调优方法论
Roofline模型分析、内存带宽优化、计算密度提升、Kernel Launch开销优化。
调优Roofline带宽
第27章
自动化迁移工具
使用PyTorch Ignite/ Lightning简化迁移、ONNX自动转换、Intel oneAPI与AMD ROCm迁移对比。
自动化LightningROCm
第28章
迁移案例研究（一）
推荐系统从CPU到GPU迁移（特征工程+模型训练+推理全链路）。
推荐系统全链路
第29章
迁移案例研究（二）
NLP大模型从CPU到GPU迁移（LLaMA/ChatGLM微调+推理优化）。
NLPLLaMAChatGLM
第30章
迁移案例研究（三）
计算机视觉模型从CPU到GPU迁移（YOLO/Stable Diffusion训练+部署）。
CVYOLOStable Diffusion