1. 异构计算概述：什么是异构计算、为什么需要异构计算、异构计算的发展历程与趋势
1.1 到底什么是异构计算？
先问大家一个问题：你手里的手机，里面有多少种计算单元？
CPU、GPU、NPU、DSP、ISP…… 少说五六个。它们各干各的，各有所长。这就是异构计算最朴素的样子。
我个人的理解是：异构计算，就是把不同架构的计算单元组合起来，让它们协同干活。 说白了，就是让擅长的人做擅长的事。
举个例子。CPU 像是个大学教授，什么都会，但一次只能教一个学生。GPU 像是个小学老师，能同时带几百个学生做算术。NPU 更像是个流水线工人，专门做重复的矩阵乘法。你让大学教授去算 1+1，浪费。你让流水线工人去写论文，也干不了。
所以，异构计算的核心思想就八个字：因地制宜，各司其职。
关键定义：异构计算（Heterogeneous Computing）是指在同一个系统中，集成两种或多种不同指令集架构（ISA）或不同微架构的计算单元，通过统一的编程模型进行任务调度与协同计算。
1.2 为什么我们需要异构计算？
这个问题，我当年刚入行时也问过师傅。师傅反问我：「你觉得摩尔定律还活着吗？」
嗯，现在大家都知道了，单核性能的爬升已经撞上了天花板。功耗墙、暗硅效应、存储墙…… 一个个问题摆在那里。你想想看，如果只靠 CPU 一个核一个核地堆，功耗和散热根本扛不住。
那怎么办？
答案就是：用专用硬件来分担通用处理器的压力。
我总结了几点核心原因：
- 性能需求爆炸：AI 推理、视频编解码、图形渲染，这些任务对算力的要求是指数级增长的。通用 CPU 根本喂不饱。
- 能效比是关键：同样做一个矩阵乘法，GPU 的能效比是 CPU 的 5-10 倍。NPU 甚至能到 20 倍以上。数据中心里，电费是实打实的成本。
- 实时性要求：自动驾驶、工业控制，这些场景对延迟极其敏感。专用硬件可以做到微秒级响应，CPU 做不到。
- 成本与面积：在芯片面积固定的情况下，集成几个专用加速器，比堆一堆通用核心划算得多。
避坑指南：我曾经在一个项目里，试图用 CPU 去跑一个大规模的图像预处理流水线。结果 CPU 占用率飙到 95%，帧率还不到 15fps。后来换成 GPU 做预处理，CPU 只做调度，帧率直接翻了三倍。嗯，从那以后我学乖了——别让 CPU 干它不擅长的事。
1.3 异构计算的发展历程
这东西不是突然冒出来的。我把它分成三个阶段来讲。
第一阶段：萌芽期（1990s - 2005）
最早的异构计算，其实就是 CPU + GPU。那时候 GPU 还叫「图形加速卡」，只能做图形渲染。有人发现，咦，GPU 的并行能力好像也能用来做通用计算？于是有了 GPGPU 的概念。
我记得那时候写 CUDA 程序，简直是在刀尖上跳舞。内存要手动搬，线程要手动管，一不小心就崩了。
第二阶段：爆发期（2005 - 2015）
这个阶段，异构计算开始走向主流。NVIDIA 推出了 CUDA，AMD 搞了 OpenCL，苹果搞了 Metal。编程模型逐渐成熟，开发者终于不用再跟硬件寄存器打交道了。
同时，移动端也开始爆发。高通、联发科、苹果，纷纷在 SoC 里集成 DSP、ISP、视频编解码器。手机拍照、视频播放、游戏渲染，背后全是异构计算在支撑。
第三阶段：智能化期（2015 - 至今）
AI 来了。深度学习对算力的需求，直接把异构计算推到了聚光灯下。
NPU（神经网络处理单元）成了标配。华为的达芬奇架构、苹果的 Neural Engine、谷歌的 TPU…… 各家都在做自己的 AI 加速器。
而且，异构的层次也在变。以前是芯片内部的异构，现在是系统级异构——CPU + GPU + NPU + FPGA，甚至跨节点、跨集群的异构。
| 阶段 | 时间 | 典型代表 | 主要挑战 |
|---|---|---|---|
| 萌芽期 | 1990s - 2005 | CPU + GPU（图形加速） | 编程困难，内存管理复杂 |
| 爆发期 | 2005 - 2015 | CUDA、OpenCL、移动 SoC | 标准化不足，生态碎片化 |
| 智能化期 | 2015 - 至今 | NPU、TPU、系统级异构 | 任务调度、数据搬移、功耗管理 |
1.4 当前趋势与未来展望
说到趋势，我个人最关注三个方向。
第一，异构集成越来越「密」。 以前是板级异构，CPU 和 GPU 通过 PCIe 连接。现在是芯片级异构，通过 Chiplet 技术把不同工艺、不同功能的 die 封装在一起。延迟更低，带宽更高，功耗更小。
第二，软件栈越来越「统一」。 你想想看，如果每个加速器都要学一套编程语言，那开发者得疯掉。所以现在大家都在做统一编程模型，比如 SYCL、OneAPI、OpenMP 的异构扩展。目标是：写一次代码，跑在任何硬件上。
第三，AI 驱动的自适应异构。 这个比较前沿。未来的异构系统，可能会根据任务负载、功耗预算、温度等实时信息，自动决定把任务分给哪个计算单元。甚至能动态调整电压和频率。说白了，就是让系统自己学会「省着用」。
注意：异构计算不是万能的。我见过不少团队，一上来就搞异构，结果数据搬移的开销比计算本身还大。记住一个原则：如果任务本身没有足够的并行度，或者数据依赖太强，强行异构反而会拖慢性能。 先分析，再动手。
1.5 小结
这一章我们聊了异构计算是什么、为什么需要它、以及它怎么一步步走到今天的。
说白了，异构计算就是「让专业的人干专业的事」。CPU 做调度，GPU 做并行，NPU 做 AI，DSP 做信号处理。各司其职，协同作战。
下一章，我会带大家深入看看异构计算系统的硬件架构——CPU、GPU、NPU、FPGA 到底长什么样，它们之间怎么通信，数据怎么流动。嗯，那才是真正有意思的部分。
公众号:蓝海资料掘金营，微信deep3321