1. GPU概述：从游戏显卡到AI算力引擎
大家好，我是你们这门课的讲师。在芯片设计这行摸爬滚打了十几年，我见过GPU从单纯的「画图卡」演变成今天AI时代的算力核心。说实话，这个变化速度连我自己都感到震撼。
今天这第一讲，我们不谈复杂的电路，先聊聊GPU的「前世今生」。你想想看，为什么一个原本用来打游戏的芯片，现在成了训练ChatGPT的必需品？这背后藏着怎样的架构智慧？
1.1 GPU发展简史：三个关键转折点
GPU的历史其实不长，但每一步都踩在技术革命的节拍上。我个人习惯把这段历史分成三个阶段：
- 1999-2006：图形专用时代 —— NVIDIA发布GeForce 256，第一次提出「GPU」这个概念。那时候的GPU就是个「画图加速器」，只能处理三角形和像素。我在大学时还用着Voodoo显卡，谁能想到后来会变成这样？
- 2007-2015：通用计算觉醒 —— NVIDIA推出CUDA架构，GPU开始能跑通用程序。我记得当时有个同事兴奋地说：「这玩意儿算矩阵比CPU快100倍！」嗯，他说的没错。
- 2016至今：AI算力爆发 —— 深度学习火了，GPU成了AI训练的标配。从P100到H100，再到现在的Blackwell，算力提升了上千倍。说白了，AI这波浪潮，GPU是最大的「卖铲人」。
核心洞察： GPU架构的每一次重大演进，本质上都是在「并行度」和「灵活性」之间找平衡。图形需要固定流水线，AI需要可编程矩阵运算，而通用计算需要灵活的数据路径。这三股力量一直在拉扯GPU的设计方向。
1.2 GPU vs CPU：为什么不能互相替代？
很多初学者会问：「CPU那么强，为什么不用CPU跑AI？」这个问题我当年也问过我的导师。
咱们用个比喻来理解：
- CPU 就像一位数学教授 —— 能解非常复杂的方程，但一次只能解一道题
- GPU 就像一千个小学生 —— 每个人只会做加减法，但一千个人同时算，总量惊人
具体到硬件设计上，区别更明显：
| 特性 | CPU | GPU |
|---|---|---|
| 核心数量 | 4-32个（大核） | 数千个（小核） |
| 控制逻辑 | 复杂（分支预测、乱序执行） | 简单（SIMT模式） |
| 缓存设计 | 大容量L1/L2/L3缓存 | 小缓存，更依赖带宽 |
| 内存带宽 | 50-100 GB/s | 1-3 TB/s（HBM） |
| 典型功耗 | 65-150W | 200-700W |
| 适用场景 | 串行任务、操作系统 | 并行计算、矩阵运算 |
避坑指南： 我曾经在项目中犯过一个错误 —— 试图用GPU处理大量if-else分支的逻辑。结果性能还不如CPU。为什么？因为GPU的SIMT架构要求所有线程执行相同的指令，遇到分支时，不同路径的线程只能串行执行。说白了，GPU怕「分叉」。
1.3 GPU应用领域：图形、计算、AI三足鼎立
现在的GPU已经是个「多面手」了。我把它分成三大战场：
图形渲染（老本行）
这是GPU的「祖传手艺」。从游戏到电影特效，从CAD设计到VR/AR，GPU负责把3D模型变成屏幕上的像素。你想想看，一秒钟要渲染60帧画面，每帧可能有上百万个三角形，这计算量有多大？没有GPU的并行架构，根本不可能。
通用计算（HPC）
科学计算、金融建模、天气预报、基因测序……这些领域需要处理海量数据。GPU的并行能力在这里大显身手。我记得有个做气象模拟的朋友跟我说，用GPU加速后，原来跑一周的模型现在一天就跑完了。
AI与深度学习（新战场）
这是目前最火的方向。训练一个GPT-4级别的模型，需要上万块GPU跑几个月。为什么GPU适合AI？因为深度学习的核心操作是矩阵乘法，而GPU的Tensor Core就是为这个量身定做的。说白了，AI的「算力饥渴」直接推动了GPU架构的进化。
注意： 不同应用对GPU架构的要求完全不同。图形需要高填充率，计算需要双精度性能，AI需要低精度矩阵运算。没有一款GPU能完美兼顾所有场景。所以你在设计时，一定要先明确目标应用。
1.4 课程概览与学习路径
这门课一共10章，我按照「从宏观到微观」的逻辑来组织：
- GPU概述（就是本章）—— 建立全局认知
- 并行计算基础 —— 理解SIMT、线程束、内存层次
- GPU流水线架构 —— 从顶点着色器到像素输出
- 内存子系统设计 —— 缓存、HBM、显存控制器
- 调度与同步 —— 线程调度器、Warp调度、同步原语
- Tensor Core与AI加速 —— 矩阵乘法单元的设计
- 功耗与散热设计 —— 动态电压频率调整、热管理
- GPU编程模型 —— CUDA/OpenCL的硬件映射
- 先进架构专题 —— Chiplet、存算一体、光互连
- 项目实战 —— 设计一个简化版GPU
我的建议是：不要跳着看。GPU架构是个系统工程，每一章都建立在前一章的基础上。特别是第2章和第4章，这是整个课程的基石，一定要吃透。
学习小贴士： 我当年学GPU架构时，最大的坑就是「只看书不写代码」。光理解概念是不够的，你得动手写CUDA程序，甚至用Verilog搭个小模块，才能真正体会到架构设计的取舍。所以每章后面我都会留一些动手练习，别偷懒。
好了，第一讲就到这里。下一章我们深入并行计算的核心 —— 你会看到GPU是怎么让几千个线程「步调一致」地工作的。嗯，那才是真正精彩的地方。
公众号:蓝海资料掘金营，微信deep3321