1、异构计算概述：什么是异构计算、为什么需要异构计算、CPU与GPU的架构差异、异构计算的应用场景

1.1 什么是异构计算？——别被名字吓到

说实话，我第一次听到「异构计算」这四个字时，脑子里浮现的是各种奇怪的硬件拼在一起。后来做项目多了，才明白它没那么玄乎。

异构计算，说白了就是让不同类型的处理器协同干活。

你想想看，一个团队里有人擅长写文档，有人擅长画图，有人擅长算数。如果让所有人都干同一件事，效率肯定低。异构计算也是这个道理——CPU、GPU、FPGA、NPU各司其职，谁擅长什么就干什么。

我个人习惯把异构计算分成两类：

• 同构异构：同一架构但不同性能的处理器（比如大小核CPU）
• 异构异构：不同架构的处理器混搭（比如CPU+GPU）

我们这门课主要聊后者，尤其是CPU和GPU的配合。

1.2 为什么需要异构计算？——单靠CPU真的不够了

我在2016年做过一个图像处理项目。当时用纯CPU跑一个1080p的视频滤镜，帧率只有12fps。客户要求至少30fps。怎么办？换更强的CPU？成本翻三倍。后来我把计算部分挪到GPU上，帧率直接飙到60fps。这就是异构计算的价值。

为什么需要它？三个核心原因：

1. 性能瓶颈：CPU的频率已经撞墙了（5GHz左右），单核性能提升越来越慢。但数据量却在爆炸增长。
2. 能效比：同样的算力，GPU的功耗可能只有CPU的1/3。我测过一个矩阵乘法，CPU跑要200W，GPU只要80W。
3. 专用加速：有些任务天生适合特定硬件。比如AI推理用NPU，加密用ASIC，渲染用GPU。

1.3 CPU与GPU的架构差异——一个像管家，一个像民工

嗯，这里要注意。很多人以为GPU就是「更强的CPU」，其实完全不是一回事。

我画个简单的对比：

维度	CPU	GPU
核心数量	4-16个（大核）	数千个（小核）
缓存大小	大（MB级别）	小（KB级别）
控制单元	复杂（分支预测、乱序执行）	简单（SIMT模式）
擅长任务	串行、逻辑控制、分支密集	并行、数据密集、计算密集
内存带宽	50-100 GB/s	500-2000 GB/s
延迟	低（ns级）	高（μs级）

为什么会这样？因为设计哲学不同。

CPU的设计目标是「快响应」。它花大量晶体管做分支预测、乱序执行、大缓存，就是为了让单个线程跑得飞快。你点一下鼠标，CPU要在微秒级内响应。

GPU的设计目标是「高吞吐」。它把晶体管都堆成计算单元，牺牲了单个线程的速度，但可以同时跑成千上万个线程。你渲染一帧画面，GPU可以同时处理几百万个像素。

我曾经犯过一个错：在GPU上跑一个递归的二叉树遍历。结果比CPU还慢。为什么？因为递归有大量分支，GPU的线程会频繁发散，性能直接腰斩。后来改成BFS（广度优先）才正常。

1.4 异构计算的应用场景——你每天都在用

其实异构计算早就渗透到我们生活的方方面面了。我随便列几个：

• 游戏和图形渲染：CPU处理游戏逻辑和AI，GPU负责渲染画面。这是最经典的异构场景。
• 深度学习训练：CPU负责数据预处理和模型调度，GPU负责矩阵运算。我训练一个ResNet-50，CPU只占10%时间，GPU占90%。
• 视频编解码：CPU做控制流，GPU或专用硬件做编解码。你看的4K视频，基本都是异构处理的。
• 科学计算：气象模拟、分子动力学、金融风险分析。这些任务动辄需要数千个核心并行，CPU根本扛不住。
• 自动驾驶：CPU处理传感器数据和决策，GPU做图像识别，NPU做路径规划。一辆车里有三四种处理器在协同工作。

我记得有一次帮客户优化一个金融风控系统。他们用纯CPU跑蒙特卡洛模拟，一次计算要3小时。我把计算部分迁移到GPU上，时间缩短到8分钟。客户当场就愣住了。

1.5 本章小结

这一章我们聊了：

• 异构计算就是让不同处理器干自己擅长的事
• CPU擅长串行和逻辑控制，GPU擅长并行和数据密集
• 异构计算的应用场景已经覆盖了从游戏到自动驾驶的各个领域

下一章，我会深入聊聊GPU的任务调度模型——为什么GPU能同时跑几千个线程？它的调度器和CPU有什么不同？到时候我会拿我踩过的一个坑来举例，保证让你印象深刻。