一、GPU概述：从图形卡到通用计算引擎
大家好，欢迎来到《GPU图形与计算混合开发入门》的第一章。我是你们这门课的老朋友，一个在GPU领域摸爬滚打多年的工程师。今天咱们不聊虚的，直接切入正题——先搞清楚GPU到底是个什么东西，它凭什么能成为现代计算的“香饽饽”。
1.1 GPU发展简史：从“画图卡”到“计算怪兽”
说起GPU的历史，我脑子里第一个蹦出来的画面是90年代末的Voodoo显卡。那时候的GPU，说白了就是个“画图加速器”。你玩《雷神之锤》卡成PPT？插上它，瞬间流畅。但那时候没人会想到，这东西后来能用来训练AI、挖比特币。
GPU的发展，我习惯把它分成三个阶段：
- 萌芽期（1990s-2000s）：NVIDIA发布GeForce 256，首次提出“GPU”这个概念。功能单一，只干图形渲染的活。我记得当时做3D游戏开发，为了一个像素着色器效果能调一整天。
- 可编程时代（2000s-2010s）：DirectX 8/9引入可编程着色器。GPU开始能跑一些简单的自定义程序。嗯，这里要注意，虽然能编程了，但语法极其反人类，全是汇编级别的指令。
- 通用计算爆发（2010s至今）：NVIDIA推出CUDA架构，AMD推出ROCm。GPU正式从“图形卡”升级为“通用计算加速器”。AI、科学计算、大数据处理……全找上门了。
核心观点：GPU的进化史，其实就是从“专用硬件”走向“通用并行计算平台”的历史。你想想看，一个原本只为了画三角形而生的芯片，现在能帮你训练大模型，这本身就是件很酷的事。
1.2 GPU与CPU的区别：一个像“博士”，一个像“民工团”
很多新手问我：“GPU和CPU到底有啥区别？不都是处理器吗？”
我通常会打个比方：CPU是“博士”，GPU是“民工团”。
- CPU：核心少（4-16个），但每个核心能力极强。擅长处理复杂的、串行的任务。比如操作系统调度、逻辑判断、分支预测。它就像个博士，能解微积分，但一次只能解一道题。
- GPU：核心多（成千上万个），但每个核心能力弱。擅长处理简单的、并行的任务。比如矩阵乘法、像素填充。它就像个民工团，每个人只会搬砖，但几千人一起搬，效率碾压博士。
为什么会这样？因为设计目标不同。CPU追求低延迟（快速响应单个任务），GPU追求高吞吐（同时处理海量任务）。我在项目中遇到过这样一个场景：用CPU做图像滤波，一张1080p的图要跑200毫秒；换成GPU，同样的算法，2毫秒搞定。这就是“民工团”的威力。
| 对比维度 | CPU | GPU |
|---|---|---|
| 核心数量 | 少（4-16） | 极多（数百到数千） |
| 核心复杂度 | 高（支持乱序执行、分支预测） | 低（简单算术逻辑单元） |
| 缓存大小 | 大（MB级别） | 小（KB级别） |
| 适用场景 | 串行、逻辑复杂、分支密集 | 并行、数据密集、计算密集 |
| 典型功耗 | 几十瓦 | 几百瓦 |
个人经验：我建议初学者不要纠结于“谁比谁强”。正确的思路是：CPU负责“指挥”，GPU负责“干活”。CPU处理控制流和少量数据，GPU处理海量并行计算。两者配合，才是王道。
1.3 GPU在图形与计算领域的应用
GPU的应用，我把它分成两大阵营：图形和计算。虽然现在两者有融合趋势，但理解它们的区别，对你后续学习混合开发至关重要。
图形领域：老本行
- 游戏渲染：实时3D渲染，光栅化、着色、纹理映射。这是GPU的“祖传手艺”。
- 影视特效：离线渲染，光线追踪、全局光照。比如《阿凡达》里的潘多拉星球，就是用GPU集群渲染出来的。
- VR/AR：需要极低延迟的渲染，GPU必须在一帧内完成左右眼两幅图像。
计算领域：新战场
- 深度学习：训练神经网络，本质就是大量矩阵运算。GPU的并行能力让训练时间从几周缩短到几天。
- 科学计算：分子动力学模拟、气象预测、天体物理。我有个朋友在气象局，他们用GPU做数值天气预报，速度比CPU集群快了一个数量级。
- 数据处理：大数据分析、数据库加速。比如NVIDIA的RAPIDS库，能让Pandas跑在GPU上。
避坑指南：我曾经犯过一个错误——以为GPU能加速所有计算。后来发现，如果算法本身并行度不高（比如大量分支和递归），上GPU反而更慢。所以，不是所有任务都适合GPU。判断标准很简单：你的数据能不能被切成小块独立处理？能，就用GPU；不能，老老实实用CPU。
1.4 主流GPU架构简介：NVIDIA CUDA vs AMD ROCm
目前GPU市场，基本是NVIDIA和AMD两分天下。Intel虽然也推出了Arc系列，但生态还差得远。我个人主要用NVIDIA，但AMD的ROCm这几年进步也很快。
NVIDIA CUDA：生态之王
- 架构：从Fermi到Hopper，每一代都在强化计算能力。核心概念是“流多处理器（SM）”，每个SM包含多个CUDA核心。
- 编程模型：CUDA C/C++，语法类似C语言。你写一个函数（kernel），然后在GPU上启动成千上万个线程来执行它。
- 优势：生态极其成熟。PyTorch、TensorFlow、cuDNN、cuBLAS……几乎所有AI框架和计算库都优先支持CUDA。
- 劣势：闭源，只能用在NVIDIA自家硬件上。说白了，你买了AMD显卡，CUDA就用不了。
AMD ROCm：开源挑战者
- 架构：基于CDNA（计算）和RDNA（图形）双架构。核心概念是“计算单元（CU）”，每个CU包含多个流处理器。
- 编程模型：HIP（Heterogeneous-Compute Interface for Portability）。HIP代码可以同时编译到CUDA和ROCm平台，这点很聪明。
- 优势：开源、跨平台。你可以在AMD GPU上跑，也能在NVIDIA GPU上跑（通过HIP转换）。
- 劣势：生态不如CUDA。很多库的ROCm版本更新慢，或者干脆没有。
我的建议：如果你是初学者，我建议从CUDA入手。原因很简单：资料多、社区活跃、踩坑有人帮。等你把CUDA玩熟了，再去看ROCm，会发现很多概念是相通的。毕竟，底层原理就那么点东西，换了个马甲而已。
知识体系结构图
下面这张SVG图，是我手绘的本章知识脉络。你可以把它当作一张“地图”，随时回来对照。
好了，第一章的内容就到这里。GPU的世界很大，我们只是开了个头。记住我今天说的：CPU是博士，GPU是民工团；图形是根，计算是叶。带着这个认知，后面的路会好走很多。