第二章 环境准备：搭建适配DeepSeek所需的硬件与软件环境

说实话，很多同学刚开始接触大模型适配时，最容易卡住的地方反而不是算法本身，而是环境搭建。我见过太多人花了两三天装环境，最后发现CUDA版本不对，或者显存不够用——那种挫败感，我懂。

这一章，我们就来把环境这件事彻底讲清楚。我会结合自己踩过的坑，告诉你到底需要什么硬件，怎么配软件，以及哪些地方最容易翻车。

2.1 硬件选型：GPU、内存、存储，一个都不能少

先聊硬件。DeepSeek模型虽然经过优化，但毕竟是个大模型，对硬件有硬性要求。我个人习惯把硬件需求分成三档：能跑、跑得动、跑得爽。

2.1.1 GPU：核心中的核心

DeepSeek适配，GPU是绝对的主角。没有合适的GPU，后面所有工作都白搭。

模型规模	推荐GPU	显存需求	备注
DeepSeek-7B	RTX 3090 / 4090	24GB	单卡可跑，量化后更低
DeepSeek-67B	A100 80GB / H100	80GB+	建议多卡并行
DeepSeek-V2	A100 80GB × 4	320GB+	MoE架构，显存需求更高

这里有个坑——显存不是唯一指标。我记得有一次，我用RTX 3090跑DeepSeek-7B的微调，显存刚好够，但训练速度慢得离谱。后来发现是显存带宽不够，数据搬运成了瓶颈。所以，如果你预算允许，优先选H100或A100，它们的显存带宽是消费级显卡的3-5倍。

2.1.2 内存：别让CPU成为瓶颈

GPU负责计算，CPU内存负责数据准备。很多人只盯着显存，忽略了系统内存。我建议：

• 最低配置：32GB（勉强够用，但会频繁swap）
• 推荐配置：64GB（7B模型微调时比较从容）
• 豪华配置：128GB+（跑67B模型推理时，CPU offloading需要大量内存）

你想想看，当你在加载一个67B模型时，光是参数文件就有130GB+。如果内存不够，系统会疯狂读写硬盘，那个速度...嗯，你会怀疑人生的。

2.1.3 存储：SSD是标配，NVMe是优选

模型文件动辄几十GB，加载速度直接取决于硬盘读写性能。我个人习惯：

• 系统盘：NVMe SSD 1TB（装系统和软件）
• 数据盘：NVMe SSD 2TB+（放模型文件和数据集）

千万别用机械硬盘。我曾经试过用HDD加载一个13B模型，等了快20分钟还没加载完——那种感觉，就像用拨号上网看4K视频。

2.2 软件环境：Python、CUDA、PyTorch的版本博弈

硬件到位了，软件环境才是真正的「坑王」。我见过太多人在这里翻车，包括我自己。

2.2.1 Python版本：3.10是当前最优解

DeepSeek官方推荐Python 3.10。为什么不是3.11或3.12？因为很多依赖库（比如bitsandbytes、flash-attention）对3.10的支持最成熟。

# 创建DeepSeek专用环境
conda create -n deepseek python=3.10

# 激活环境
conda activate deepseek

# 验证版本
python --version
# 输出：Python 3.10.12

为什么要用conda？说白了，就是隔离。你以后可能还要跑其他模型，每个模型对依赖的要求都不一样。用conda管理，互不干扰，省心。

2.2.2 CUDA与cuDNN：版本匹配是门玄学

CUDA版本不对，是所有环境问题的根源。我总结了一个经验法则：

• PyTorch 2.0+ → CUDA 11.8 或 12.1
• PyTorch 1.13 → CUDA 11.7
• DeepSeek官方推荐 → CUDA 12.1 + cuDNN 8.9

为什么会这样？因为PyTorch的CUDA扩展是编译好的，不同版本对应不同的CUDA runtime。你装了CUDA 12.0，但PyTorch是11.8版本编译的，那就会报错——而且报错信息往往很隐晦。

安装CUDA的步骤：

# 1. 检查当前CUDA版本
nvidia-smi
# 输出顶部会显示CUDA Version: 12.1

# 2. 如果版本不对，去NVIDIA官网下载对应版本
# 或者用conda安装（推荐）
conda install cuda -c nvidia

# 3. 安装cuDNN（需要NVIDIA账号，免费注册）
# 下载后解压到CUDA目录
sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include
sudo cp cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64

2.2.3 PyTorch：选对版本，事半功倍

PyTorch是DeepSeek适配的核心框架。我建议直接安装PyTorch 2.1.0以上版本，因为2.0引入了torch.compile，能显著提升训练速度。

# 安装PyTorch 2.1.0 + CUDA 12.1
pip install torch==2.1.0 torchvision==0.16.0 torchaudio==2.1.0 --index-url https://download.pytorch.org/whl/cu121

# 验证安装
python -c "import torch; print(torch.__version__); print(torch.cuda.is_available())"
# 输出：2.1.0+cu121
# 输出：True

这里有个小技巧：安装完成后，跑一下这个命令，确认CUDA真的能用。我见过有人装了PyTorch，但torch.cuda.is_available()返回False——那说明CUDA没装对，或者PyTorch版本不匹配。

2.3 核心依赖库：一个都不能少

除了PyTorch，DeepSeek适配还需要几个关键库。我列个清单：

库名	用途	安装命令
transformers	模型加载与推理	pip install transformers==4.36.0
accelerate	多卡并行与混合精度	pip install accelerate==0.25.0
bitsandbytes	4bit/8bit量化	pip install bitsandbytes==0.41.3
peft	LoRA微调	pip install peft==0.7.1
datasets	数据集加载	pip install datasets==2.16.0

# requirements.txt
torch==2.1.0+cu121
transformers==4.36.0
accelerate==0.25.0
bitsandbytes==0.41.3
peft==0.7.1
datasets==2.16.0
sentencepiece==0.1.99
protobuf==3.20.3

# 一键安装
pip install -r requirements.txt

2.4 环境验证：跑一个Hello World

环境搭好了，怎么确认没问题？我习惯跑一个简单的加载测试：

from transformers import AutoModelForCausalLM, AutoTokenizer

# 加载DeepSeek-7B（需要先下载模型，后面章节会讲）
model_name = "deepseek-ai/deepseek-llm-7b-base"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.float16,
    device_map="auto"
)

# 测试推理
input_text = "DeepSeek是一个"
inputs = tokenizer(input_text, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=50)
print(tokenizer.decode(outputs[0]))
# 输出：DeepSeek是一个由深度求索公司开发的大语言模型...

如果这段代码能跑通，恭喜你，环境搭建成功了！如果报错，别慌——大概率是CUDA版本或显存问题。回头检查一下前面的步骤。

这张图把整个环境搭建流程串起来了。从上到下，一层依赖一层。硬件是地基，系统是框架，软件是工具，验证是验收。哪一层出问题，后面都跑不起来。

好了，环境准备就讲到这里。记住：环境搭建不是一次性的工作。随着你后续做量化、微调、部署，可能还会遇到新的依赖问题。但有了这一章的基础，你至少知道问题出在哪一层，怎么去排查。

---