第2章：CUDA开发环境搭建

说实话，环境搭建这事儿，看着简单，坑却不少。我见过太多人卡在这一步，明明代码写得没问题，一跑就报错。嗯，今天咱们就把这事儿捋清楚。

2.1 NVIDIA驱动安装

驱动是GPU计算的基础。没有它，CUDA根本跑不起来。我个人习惯先装驱动，再装CUDA Toolkit，顺序别搞反了。

安装驱动有两种方式：

• 官方.run文件安装：去NVIDIA官网下载对应型号的驱动，然后执行 sudo sh NVIDIA-Linux-*.run
• 包管理器安装：Ubuntu用户可以用 sudo apt install nvidia-driver-535（版本号根据你的显卡选）

装完后，用 nvidia-smi 验证。如果能看到GPU信息，说明驱动装好了。

# 查看驱动版本和GPU状态
nvidia-smi

# 输出示例
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 535.86.05    Driver Version: 535.86.05    CUDA Version: 12.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  Tesla T4            Off  | 00000000:00:04.0 Off |                    0 |
|  N/A   45C    P0    27W /  70W |      0MiB / 15360MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+

2.2 CUDA Toolkit配置

驱动装好了，接下来就是CUDA Toolkit。说白了，它就是一套开发工具，包括编译器、库文件、调试工具等。

安装步骤：

1. 去NVIDIA官网下载对应版本的CUDA Toolkit（我建议用LTS版本，稳定）
2. 执行安装命令：sudo sh cuda_*.run
3. 配置环境变量

# 在 ~/.bashrc 或 ~/.zshrc 中添加
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

# 使配置生效
source ~/.bashrc

验证CUDA Toolkit是否装好：

nvcc --version

# 输出示例
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2023 NVIDIA Corporation
Built on Wed_Nov_22_10:17:15_PST_2023
Cuda compilation tools, release 12.3, V12.3.107

2.3 cuDNN库集成

cuDNN是NVIDIA针对深度学习优化的加速库。做金融量化时，如果你要用到LSTM、Transformer这些模型，cuDNN能帮你省不少时间。

安装cuDNN需要先注册NVIDIA开发者账号，然后下载对应CUDA版本的cuDNN包。

# 解压cuDNN包
tar -xzvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz

# 复制文件到CUDA目录
sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include
sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64

# 设置权限
sudo chmod a+r /usr/local/cuda/include/cudnn*.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

验证cuDNN版本：

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

# 输出示例
#define CUDNN_MAJOR 8
#define CUDNN_MINOR 9
#define CUDNN_PATCHLEVEL 7

2.4 环境验证

所有东西都装好了，怎么确认环境没问题？我一般跑几个测试程序。

测试1：设备查询

# 编写 test_device.cu
#include <stdio.h>
#include <cuda_runtime.h>

int main() {
    int deviceCount;
    cudaGetDeviceCount(&deviceCount);
    
    for (int i = 0; i < deviceCount; i++) {
        cudaDeviceProp prop;
        cudaGetDeviceProperties(&prop, i);
        printf("设备 %d: %s\n", i, prop.name);
        printf("  计算能力: %d.%d\n", prop.major, prop.minor);
        printf("  显存大小: %.2f GB\n", prop.totalGlobalMem / 1024.0 / 1024.0 / 1024.0);
    }
    return 0;
}

# 编译运行
nvcc test_device.cu -o test_device
./test_device

测试2：向量加法——这是CUDA的"Hello World"

# 编写 vector_add.cu
#include <stdio.h>
#include <cuda_runtime.h>

__global__ void vecAdd(float *a, float *b, float *c, int n) {
    int i = blockIdx.x * blockDim.x + threadIdx.x;
    if (i < n) {
        c[i] = a[i] + b[i];
    }
}

int main() {
    int n = 1024;
    size_t size = n * sizeof(float);
    
    float *h_a, *h_b, *h_c;
    float *d_a, *d_b, *d_c;
    
    // 分配主机内存
    h_a = (float*)malloc(size);
    h_b = (float*)malloc(size);
    h_c = (float*)malloc(size);
    
    // 初始化数据
    for (int i = 0; i < n; i++) {
        h_a[i] = i * 1.0f;
        h_b[i] = i * 2.0f;
    }
    
    // 分配设备内存
    cudaMalloc(&d_a, size);
    cudaMalloc(&d_b, size);
    cudaMalloc(&d_c, size);
    
    // 拷贝数据到设备
    cudaMemcpy(d_a, h_a, size, cudaMemcpyHostToDevice);
    cudaMemcpy(d_b, h_b, size, cudaMemcpyHostToDevice);
    
    // 执行核函数
    int threadsPerBlock = 256;
    int blocksPerGrid = (n + threadsPerBlock - 1) / threadsPerBlock;
    vecAdd<<<blocksPerGrid, threadsPerBlock>>>(d_a, d_b, d_c, n);
    
    // 拷贝结果回主机
    cudaMemcpy(h_c, d_c, size, cudaMemcpyDeviceToHost);
    
    // 验证结果
    printf("结果验证: h_c[0] = %f (期望 %f)\n", h_c[0], h_a[0] + h_b[0]);
    printf("结果验证: h_c[1023] = %f (期望 %f)\n", h_c[1023], h_a[1023] + h_b[1023]);
    
    // 清理
    cudaFree(d_a);
    cudaFree(d_b);
    cudaFree(d_c);
    free(h_a);
    free(h_b);
    free(h_c);
    
    return 0;
}

# 编译运行
nvcc vector_add.cu -o vector_add
./vector_add

2.5 知识体系总览

下面这张图，把CUDA开发环境的搭建流程串起来了。你跟着走一遍，基本不会出问题。

2.6 常见问题排查

公众号:蓝海资料掘金营，微信deep3321