4、数据级并行（DLP）：SIMD指令集（SSE/AVX）、向量化编程、GPU的SIMT模型

数据级并行，说白了就是「一次指令，处理多份数据」。

我刚开始接触这个概念时，总觉得它离业务代码很远。直到有一次做视频编码优化，CPU占用率死活降不下来，我才意识到——原来我一直在浪费CPU的潜力。你想想看，现代CPU里大部分面积都是用来做数据并行计算的，你不去用它，那不等于买了辆跑车却只开20码？

4.1 SIMD：一条指令，多份数据

SIMD的全称是Single Instruction Multiple Data。它的核心思想很简单：用一条指令，同时对多个数据执行相同的操作。

举个例子，你要对两个数组做加法：

// 传统标量方式
for (int i = 0; i < 4; i++) {
    C[i] = A[i] + B[i];
}

// SIMD向量方式（伪代码）
__m128 va = _mm_load_ps(A);   // 一次加载4个float
__m128 vb = _mm_load_ps(B);   // 一次加载4个float
__m128 vc = _mm_add_ps(va, vb); // 一次完成4个加法
_mm_store_ps(C, vc);          // 一次存储4个结果

看到区别了吗？标量方式需要4次循环，SIMD方式只需要1条加法指令。这就是数据级并行的威力。

4.2 SSE与AVX：从128位到512位的进化

Intel的SIMD指令集经历了几个重要阶段。我个人习惯把它们分成三代：

指令集	寄存器宽度	可同时处理	出现时间
MMX	64位	2个32位整数	1997年
SSE/SSE2	128位	4个float或2个double	1999年
AVX/AVX2	256位	8个float或4个double	2011年
AVX-512	512位	16个float或8个double	2017年

嗯，这里要注意：不是所有CPU都支持AVX-512。我在项目中就踩过这个坑——代码在开发机上跑得飞快，部署到客户的服务器上直接崩溃，因为那台机器不支持AVX-512指令。所以写代码时一定要做运行时检测。

4.3 向量化编程：让编译器帮你干活

手写SIMD内联汇编太痛苦了。好在现代编译器支持自动向量化——你只需要写普通的循环，编译器会自动生成SIMD指令。

但编译器不是万能的。我总结了几条让编译器更容易向量化的经验：

• 循环次数要确定：编译器喜欢固定次数的循环，动态边界会阻碍向量化
• 避免循环依赖：比如A[i] = A[i-1] + B[i]这种，前后数据有关联，没法向量化
• 内存对齐：使用aligned_alloc或__attribute__((aligned(32)))让数据对齐到32字节
• 使用restrict关键字：告诉编译器指针不会重叠，放心优化

// 编译器友好的向量化写法
void add_arrays(float* restrict A, float* restrict B, float* restrict C, int n) {
    // 告诉编译器指针不重叠
    for (int i = 0; i < n; i++) {
        C[i] = A[i] + B[i];
    }
}

你可以在编译时加上-O2 -mavx2 -ftree-vectorize选项，然后用-fopt-info-vec查看编译器是否成功向量化了你的循环。

4.4 GPU的SIMT模型：SIMD的进阶版

GPU的SIMT（Single Instruction Multiple Threads）模型，你可以把它理解成「SIMD的超级进化版」。

SIMD是显式向量化——你得自己把数据打包成向量。而SIMT是隐式向量化——你写的是普通的标量代码，但GPU会创建成千上万个线程，每个线程处理一个数据元素。这些线程在硬件上被分组为warp（NVIDIA）或wavefront（AMD），组内的线程执行同一条指令。

说白了：SIMD让你手动管理向量宽度，SIMT让硬件自动管理。

我在做深度学习推理优化时，经常把CPU上的SIMD代码和GPU上的CUDA代码做对比。你会发现一个有趣的现象：

• CPU上你需要精心安排数据布局，确保连续访问
• GPU上你只需要写一个简单的kernel，让每个线程处理一个元素
• 但GPU上要注意warp divergence——如果warp内的线程走了不同的分支，性能会急剧下降

// CUDA kernel示例：每个线程处理一个元素
__global__ void vector_add(float* A, float* B, float* C, int n) {
    int idx = threadIdx.x + blockIdx.x * blockDim.x;
    if (idx < n) {
        C[idx] = A[idx] + B[idx];
    }
}

这段代码看起来就是普通的C语言，但GPU会创建n个线程并行执行。每个线程只做一次加法，但成千上万个线程同时做，总吞吐量就上去了。

4.5 知识体系总览

为了让你更直观地理解数据级并行的全貌，我画了一张图：

4.6 实际项目中的选择建议

讲了这么多，到底什么时候用SIMD，什么时候用GPU？我个人的经验是：

• 数据量小于1万：用SIMD就够了，GPU的启动开销不划算
• 数据量在1万到100万之间：看计算密度。计算简单的用SIMD，计算复杂的用GPU
• 数据量大于100万：果断上GPU，SIMD的寄存器宽度有限，撑不住
• 延迟敏感的场景：用SIMD。GPU的调度延迟比CPU高一个数量级

---