第2章 CUDA编程环境搭建

2、CUDA编程环境搭建：NVIDIA驱动安装、CUDA Toolkit配置、cuDNN安装、开发环境验证

说实话，很多初学者在环境搭建这一步就被劝退了。我见过太多人，代码写得挺好，结果环境没配好，跑都跑不起来。嗯，今天咱们就把这事彻底搞定。

CUDA编程环境搭建，说白了就是三件套：NVIDIA驱动 + CUDA Toolkit + cuDNN。这三样东西缺一不可，而且版本之间要互相匹配。我刚开始搞的时候也踩过坑，后来总结了一套比较稳的流程，分享给你。

2.1 NVIDIA驱动安装

驱动是基础中的基础。没有驱动，GPU就是个摆设。你想想看，操作系统连GPU都认不出来，还谈什么计算？

第一步：确认你的GPU型号

在终端里敲这个命令：

lspci | grep -i nvidia

或者用更直观的方式：

nvidia-smi

如果系统里已经有驱动，nvidia-smi会直接显示GPU信息。如果没有，它会提示你安装。

第二步：选择合适的驱动版本

我个人习惯去NVIDIA官网下载。但要注意，不是越新越好。我建议你根据CUDA Toolkit的版本来选驱动。比如你要装CUDA 11.8，那就找支持11.8的驱动版本。

重要提示：驱动版本和CUDA版本有对应关系。NVIDIA官方有个兼容性列表，建议先查一下再装。

第三步：安装驱动

Ubuntu系统为例：

# 先卸载旧驱动（如果有）
sudo apt-get purge nvidia*

# 添加NVIDIA官方源
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt-get update

# 安装推荐版本
sudo apt-get install nvidia-driver-525

装完重启，再跑nvidia-smi，看到GPU信息就说明驱动装好了。

避坑指南：我曾经在笔记本上装驱动，结果黑屏了。后来发现是Nouveau开源驱动没禁用。记得在装驱动前先禁用Nouveau：sudo echo "blacklist nouveau" >> /etc/modprobe.d/blacklist.conf

2.2 CUDA Toolkit配置

驱动装好了，接下来就是CUDA Toolkit。这个工具包包含了编译器、库文件、调试工具等。说白了，没有它，你写的CUDA代码就没法编译。

选择CUDA版本

我个人建议选LTS版本，比如11.8或12.1。这些版本经过充分测试，稳定性好。别追新，追新容易踩坑。

安装方式：两种主流方法

方法一：runfile安装（推荐）

# 下载runfile
wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run

# 执行安装
sudo sh cuda_11.8.0_520.61.05_linux.run

安装过程中，不要勾选驱动（因为我们已经装过了），只选CUDA Toolkit和示例代码。

方法二：deb包安装

# 添加源
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update

# 安装
sudo apt-get install cuda-toolkit-11-8

配置环境变量

装完CUDA Toolkit，还要配置环境变量。不然系统找不到nvcc编译器。

# 编辑 ~/.bashrc
export PATH=/usr/local/cuda-11.8/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH

# 生效
source ~/.bashrc

验证一下：

nvcc --version

看到版本号就对了。

小技巧：我习惯在~/.bashrc里加一个软链接，这样切换CUDA版本时不用改路径：export PATH=/usr/local/cuda/bin:$PATH。然后通过修改/usr/local/cuda的软链接来切换版本。

2.3 cuDNN安装

cuDNN是NVIDIA针对深度神经网络优化的库。如果你要做深度学习，这个必须装。它比纯CUDA实现快很多，说白了就是给神经网络加了「涡轮增压」。

下载cuDNN

需要去NVIDIA官网注册账号才能下载。注意版本要和CUDA匹配。比如CUDA 11.8对应cuDNN 8.9.x。

安装步骤

# 解压
tar -xzvf cudnn-linux-x86_64-8.9.0.131_cuda11-archive.tar.xz

# 复制文件到CUDA目录
sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda-11.8/include
sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda-11.8/lib64

# 设置权限
sudo chmod a+r /usr/local/cuda-11.8/include/cudnn*.h
sudo chmod a+r /usr/local/cuda-11.8/lib64/libcudnn*

验证cuDNN

cat /usr/local/cuda-11.8/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

看到版本号就说明装好了。

注意：cuDNN的版本号格式是「主版本.次版本.补丁版本」。我遇到过有人装错了小版本，结果训练时各种报错。一定要仔细核对。

2.4 开发环境验证

三件套都装好了，怎么知道能不能用？写个简单的程序跑一下。

验证CUDA编译器

nvcc -V

看到类似release 11.8, V11.8.89的输出就对了。

验证GPU设备

nvidia-smi

这个命令会显示GPU型号、驱动版本、CUDA版本、显存使用情况等。

写个Hello World

创建一个文件hello.cu：

#include <stdio.h>

__global__ void helloFromGPU() {
    printf("Hello from GPU!\n");
}

int main() {
    printf("Hello from CPU!\n");
    helloFromGPU<<<1, 10>>>();
    cudaDeviceSynchronize();
    return 0;
}

编译运行：

nvcc -o hello hello.cu
./hello

看到CPU和GPU都打印了信息，说明环境没问题。

验证cuDNN

写个简单的测试程序：

#include <cudnn.h>
#include <stdio.h>

int main() {
    cudnnHandle_t handle;
    cudnnCreate(&handle);
    printf("cuDNN version: %d\n", cudnnGetVersion());
    cudnnDestroy(handle);
    return 0;
}

nvcc -o test_cudnn test_cudnn.cu -lcudnn
./test_cudnn

看到cuDNN版本号就说明一切正常。

完整验证清单：

✅ nvidia-smi 显示GPU信息
✅ nvcc --version 显示CUDA版本
✅ 能编译并运行CUDA程序
✅ cuDNN头文件和库文件存在
✅ cuDNN测试程序能正常运行

2.5 常见问题与解决方案

环境搭建过程中，我遇到过不少问题。挑几个典型的说说。

问题	原因	解决方案
`nvidia-smi`报错	驱动没装好或Nouveau冲突	禁用Nouveau，重装驱动
`nvcc`找不到	环境变量没配置	检查`PATH`和`LD_LIBRARY_PATH`
编译时报`cudnn.h`找不到	cuDNN没复制到正确位置	检查`/usr/local/cuda/include`目录
运行时`libcudnn.so`找不到	动态库路径没配置	设置`LD_LIBRARY_PATH`或运行`ldconfig`

我的经验：如果遇到莫名其妙的问题，先检查版本兼容性。驱动、CUDA Toolkit、cuDNN三者版本必须匹配。NVIDIA官网有兼容性矩阵，建议保存一份。

环境搭建好了，接下来就可以正式开始CUDA编程了。下一章咱们聊聊CUDA编程模型，包括线程层次结构、内存模型这些核心概念。准备好了吗？

📚 课程目录

2、CUDA编程环境搭建：NVIDIA驱动安装、CUDA Toolkit配置、cuDNN安装、开发环境验证

2.1 NVIDIA驱动安装

2.2 CUDA Toolkit配置

2.3 cuDNN安装

2.4 开发环境验证

2.5 常见问题与解决方案