零基础系统掌握GPU硬件架构
📚 共计 30 章节
第01章
GPU的前世今生
从图形加速卡到通用计算巨兽
历史
演进
第02章
GPU的核心战场
图形渲染管线深度解析
渲染
管线
第03章
GPU的“心脏”
流式多处理器(SM)架构详解
SM
核心
第04章
CUDA核心
GPU的“打工人”是如何工作的?
CUDA
并行
第05章
GPU的内存层级
全局内存、共享内存、寄存器与缓存
内存
层级
第06章
GPU的“交通网络”
内存控制器与总线带宽
带宽
控制器
第07章
GPU的“大脑”
线程束调度器与指令分发
调度
Warp
第08章
GPU的“仓库”
L1/L2缓存架构与缓存一致性
缓存
一致性
第09章
GPU的“指挥中心”
GPC与TPC架构
GPC
TPC
第10章
GPU的“加速器”
Tensor Core & RT Core
AI
光线追踪
第11章
GPU的“燃料”
显存类型(GDDR6/HBM)与带宽计算
显存
带宽
第12章
GPU的“冷却系统”
功耗墙与热设计功耗(TDP)
功耗
散热
第13章
GPU的“连接器”
PCIe总线与NVLink互联技术
互联
NVLink
第14章
GPU的“操作系统”
驱动与运行时 (Driver API vs Runtime API)
驱动
CUDA
第15章
GPU的“编程模型”
SIMT与Warp执行模型
SIMT
Warp
第16章
GPU的“并行艺术”
数据并行、任务并行与流水线并行
并行
策略
第17章
GPU的“性能瓶颈”
计算密集型 vs 访存密集型任务
瓶颈
分析
第18章
GPU的“优化秘籍”
内存合并访问与Bank Conflict
优化
共享内存
第19章
GPU的“调试工具”
NVIDIA Nsight Systems & Compute
调试
Profiler
第20章
GPU的“性能指标”
Occupancy、IPC与FLOPS利用率
指标
Occupancy
第21章
GPU的“架构演进”
从Fermi到Hopper架构对比
架构
代际
第22章
GPU的“异构计算”
CPU+GPU协同工作模式
异构
协同
第23章
GPU的“虚拟化”
GPU分区与MIG(多实例GPU)
虚拟化
MIG
第24章
GPU的“集群”
NVSwitch与DGX超级计算机
集群
DGX
第25章
GPU的“未来”
Chiplet技术与3D堆叠
Chiplet
3D
第26章
GPU的“对手”
FPGA与ASIC在AI加速中的对比
FPGA
ASIC
第27章
GPU的“生态”
CUDA、ROCm与OneAPI平台之争
生态
平台
第28章
GPU的“实战”
从零搭建GPU加速的矩阵乘法
实战
矩阵乘法
第29章
GPU的“瓶颈分析”
使用Profiler定位性能热点
Profiler
优化
第30章
GPU的“总结”
一张图看懂GPU硬件架构全貌
总结
脑图