第1章 GPU计算基础

一、GPU计算基础：架构演进、编程模型与协同原理

各位同学，欢迎来到《金融大数据GPU高性能计算实战》的第一章。

说实话，我刚开始接触GPU计算时，也跟大家一样——觉得这玩意儿不就是个显卡吗？打游戏用的。直到我在一家量化私募做高频因子挖掘，CPU跑一个日频因子要3小时，换成GPU后压缩到8分钟。那一刻我才真正意识到：GPU不是用来打游戏的，它是金融工程师的印钞机。

这一章，我们不讲虚的。直接切入核心：GPU架构是怎么演变的？CUDA编程模型到底怎么用？CPU和GPU怎么配合干活？ 我会结合自己在实盘回测系统开发中的踩坑经历，把这些讲透。

1.1 GPU架构演进：从图形卡到并行计算怪兽

先看一张图，这是我整理的GPU架构演进核心脉络：

这张图展示了GPU架构的四个关键里程碑。我挑几个重点说说：

G80架构（2006年）：这是CUDA的起点。它首次把顶点着色器和像素着色器统一起来，让GPU能跑通用计算。说实话，当时没人想到这东西能用来做金融计算。
Fermi架构（2010年）：引入了ECC内存纠错。这对金融计算太重要了——你想想看，如果回测时内存出个bit翻转，算出来的夏普比率可能差好几个点。我在做期权定价模型时，就遇到过因为内存错误导致希腊值计算偏差的问题。
Volta架构（2017年）：Tensor Core的出现，让矩阵运算快了10倍以上。做因子挖掘的同学应该深有体会——协方差矩阵计算从分钟级变成了秒级。
Hopper架构（2022年）：Transformer引擎专门为AI设计，但对我们做时序预测也有帮助。DPX指令集能加速动态规划，这在路径依赖型期权定价中特别有用。

核心要点：GPU架构演进的本质，是从「图形专用」走向「通用并行计算」，再到「AI加速」。金融计算正好踩在这条线上——我们需要的矩阵运算、蒙特卡洛模拟、因子挖掘，都是GPU的强项。

1.2 CUDA编程模型：线程、块、网格

好，架构讲完了，咱们来点实际的。CUDA编程模型，说白了就是怎么组织你的计算任务。

我习惯用一个比喻来理解：GPU就像一个大型工厂。

Grid（网格）：整个工厂
Block（线程块）：车间
Thread（线程）：工人

每个工人干一小块活，车间主任协调，工厂整体调度。这个模型在金融计算中特别自然——比如你要计算100万只股票的日收益率，就可以让每个线程处理一只股票。

来看一个最简单的CUDA程序：

// 向量加法：C = A + B
__global__ void vecAdd(float *A, float *B, float *C, int N) {
    int i = threadIdx.x + blockIdx.x * blockDim.x;
    if (i < N) {
        C[i] = A[i] + B[i];
    }
}

int main() {
    // 分配内存
    float *d_A, *d_B, *d_C;
    cudaMalloc(&d_A, N * sizeof(float));
    cudaMalloc(&d_B, N * sizeof(float));
    cudaMalloc(&d_C, N * sizeof(float));

    // 拷贝数据到GPU
    cudaMemcpy(d_A, h_A, N * sizeof(float), cudaMemcpyHostToDevice);
    cudaMemcpy(d_B, h_B, N * sizeof(float), cudaMemcpyHostToDevice);

    // 启动内核：256个线程/块，足够多的块
    vecAdd<<<(N + 255) / 256, 256>>>(d_A, d_B, d_C, N);

    // 拷贝结果回CPU
    cudaMemcpy(h_C, d_C, N * sizeof(float), cudaMemcpyDeviceToHost);

    // 清理
    cudaFree(d_A); cudaFree(d_B); cudaFree(d_C);
    return 0;
}

个人经验：线程块大小选256或512通常性能最好。太小了调度开销大，太大了寄存器不够用。我曾经在回测系统里用1024的块大小，结果每个线程能用的寄存器太少，导致全局内存访问暴增，性能反而下降了30%。

这里有几个关键点要注意：

threadIdx、blockIdx、blockDim：这是CUDA内置变量，用来定位每个线程的「工位」
__global__：声明这是一个GPU内核函数，从CPU调用
<<<grid, block>>>：配置启动参数，第一个是网格大小（多少个块），第二个是块大小（多少个线程）

1.3 GPU与CPU协同工作原理

CPU和GPU怎么配合？说白了就是：CPU负责指挥，GPU负责干活。

我画了一张流程图，展示典型的协同工作模式：

这个流程看起来简单，但实际项目中坑不少。我举几个例子：

避坑指南：我曾经在回测系统里，每次迭代都做一次cudaMalloc和cudaFree。结果发现GPU利用率只有20%，大部分时间花在内存分配上了。后来改成预分配内存池，性能直接翻了3倍。

具体来说，CPU和GPU协同有几个关键点：

数据搬运是瓶颈：PCIe 4.0 x16的理论带宽是32GB/s，但GPU显存带宽可以到1TB/s以上。所以尽量让数据在GPU上多待一会儿，别来回倒腾。
异步执行：CUDA流（Stream）可以让计算和拷贝重叠。我习惯用两个流，一个负责拷贝，一个负责计算，流水线作业。
内存模型：CPU用页锁定内存（pinned memory）可以加速数据传输。但别用太多，会占用系统内存。

实战建议：在做金融计算时，我通常这样设计：

CPU负责：数据加载、预处理、结果汇总
GPU负责：矩阵运算、蒙特卡洛模拟、因子计算
数据只传一次：把整个数据集传到GPU显存，算完再传回来

小结

这一章我们讲了三个核心内容：

GPU架构演进：从G80到Hopper，核心是并行能力越来越强
CUDA编程模型：Grid-Block-Thread三级结构，用向量加法示例说明
CPU-GPU协同：CPU指挥，GPU干活，注意数据搬运和异步执行

嗯，这些基础概念可能有点枯燥，但它们是后面所有实战内容的地基。下一章我们会用这些知识，真正开始写一个金融因子计算的GPU程序。到时候你会发现，原来GPU计算可以这么爽。

📚 课程目录

一、GPU计算基础：架构演进、编程模型与协同原理

1.1 GPU架构演进：从图形卡到并行计算怪兽

1.2 CUDA编程模型：线程、块、网格

1.3 GPU与CPU协同工作原理

小结