GPU · 深度解析
🧑💻 软件工程师视角 · 硬件完全指南
📚
30章 从入门到架构
01
GPU的前世今生
从图形卡到通用计算处理器 · 发展简史与架构演进
02
SIMT核心思想
单指令多线程架构详解 · 对比CPU SIMD
03
GPU硬件组成
SM · CUDA Core · Tensor Core · 内存层次
04
线程与线程束
Warp概念 · 调度机制 · 分支发散影响
05
内存模型深度解析
全局/共享/常量/纹理/寄存器 · 延迟与带宽
06
内存访问模式
合并访问原理 · 让内存带宽跑满
07
共享内存与Bank Conflict
Bank结构 · 产生原因与规避策略
08
GPU缓存体系
L1/L2缓存 · 缓存行 · 命中率影响
09
计算单元内部
CUDA Core流水线 · Tensor Core矩阵乘法
10
指令发射与执行
ILP · Warp调度器 · 指令吞吐量
11
GPU同步机制
__syncthreads · 原子操作 · 内存屏障
12
流与并发执行
CUDA Stream · 计算与数据传输重叠
13
PCIe与NVLink
主机设备传输 · PCIe瓶颈 · NVLink互联
14
GPU显存架构
HBM vs GDDR · 显存带宽计算与实测
15
GPU功耗与散热
TDP · 动态频率调整 · 功耗墙
16
虚拟化与多实例
MIG技术 · GPU分区与隔离
17
GPU编程模型
CUDA/OpenCL抽象层 · Host-Device协作
18
启动与配置
Grid/Block/Thread · 硬件配置选参
19
性能分析工具
Nsight · nvprof · nvidia-smi · 硬件计数器
20
Roofline模型
计算密集度 · 带宽瓶颈可视化优化
21
矩阵运算加速
GEMM硬件实现 · Tensor Core混合精度
22
深度学习硬件加速
卷积/池化/归一化 · GPU加速原理
23
图形渲染管线
顶点→像素着色器 · 从图形卡到通用计算
24
硬件调试与ECC
纠错码内存 · 硬件错误检测与容错
25
驱动与运行时
CUDA Driver API vs Runtime · 硬件资源管理
26
上下文与进程管理
CUDA Context · 多进程资源竞争
27
硬件规格解读
A100/H100 · SM/CUDA Core/显存带宽
28
微架构对比
Ampere · Hopper · AMD CDNA设计差异
29
集群与互联
NVSwitch · InfiniBand · 多GPU拓扑
30
未来GPU架构趋势
Chiplet · 存算一体 · 光互联 · 演进方向