第二章：环境准备——工欲善其事，必先利其器
说实话，我见过太多人在环境配置上栽跟头了。明明模型都下好了，结果跑不起来，一查发现是Python版本不对，或者Cmake没装。嗯，这一章咱们就把这些基础工作一次性搞定。
核心要点：环境配置决定了你后续90%的排障效率。别嫌麻烦，一步到位最省心。
2.1 操作系统选择：Linux / Windows / WSL
我个人习惯用Linux做主力，但如果你只有Windows，也别慌。咱们分情况聊。
2.1.1 Linux（推荐Ubuntu 22.04 LTS）
为什么推荐Linux？说白了，GGUF生态对Linux支持最完整。我在项目中遇到过好几次，同样的模型在Linux上跑得稳稳的，换到Windows就各种报错。如果你有条件，直接上Ubuntu 22.04 LTS，省心。
- 优势：原生支持CUDA、ROCm，编译工具链齐全
- 劣势：对新手不太友好，驱动配置稍麻烦
- 我的建议：如果你有闲置的旧电脑，装个Ubuntu Server，SSH远程操作，很香
2.1.2 Windows 10/11
Windows用户也别急。GGUF在Windows上也能跑，只是需要多装几个东西。我自己的笔记本就是Windows，平时测试用着也挺顺手。
- 优势：图形界面友好，日常使用方便
- 劣势：某些底层库需要额外编译，容易踩坑
- 避坑指南：我曾经在Windows上编译llama.cpp时，因为Visual Studio版本不对，折腾了一下午。后来直接用预编译包，省事多了
2.1.3 WSL2（Windows Subsystem for Linux）
如果你既想用Windows的便利，又想享受Linux的生态，WSL2是最佳选择。说白了，就是在Windows里跑一个轻量级Linux虚拟机。
我的经验：WSL2的性能损失很小，大概只有5%左右。日常开发和测试完全够用。我经常在WSL2里跑7B模型，速度跟原生Linux差不多。
安装WSL2很简单，管理员身份打开PowerShell，运行：
wsl --install -d Ubuntu-22.04装完后重启，就能在开始菜单里找到Ubuntu了。
2.2 Python环境配置
Python版本这事儿，我吃过不少亏。GGUF相关的工具链，对Python版本有严格要求。你想想看，要是版本不对，pip install半天最后报错，多闹心。
2.2.1 推荐版本
| 工具 | 推荐Python版本 | 备注 |
|---|---|---|
| llama.cpp | 3.10 - 3.12 | 3.11最稳，我一直在用 |
| transformers | 3.8 - 3.12 | 新版已支持3.12 |
| gguf-parser | 3.9 - 3.11 | 3.12可能有兼容问题 |
2.2.2 使用conda管理环境
我个人强烈建议用conda。为什么？因为你可以随时切换Python版本，互不干扰。我曾经在同一台机器上同时维护三个项目，分别用3.9、3.10、3.11，全靠conda撑着。
# 安装miniconda（推荐）
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh
# 创建专用环境
conda create -n gguf python=3.11
conda activate gguf
# 验证版本
python --version
# 输出：Python 3.11.x注意：不要用系统自带的Python！我之前就因为这个，装包时权限报错，差点把系统搞崩。用conda隔离环境，安全又干净。
2.3 Git与Cmake安装
这两个工具是编译GGUF相关项目的基石。你想想看，没有Git怎么拉代码？没有Cmake怎么编译？
2.3.1 Git安装
Git的安装很简单，但要注意配置好代理，不然拉大仓库时会很慢。我在项目中遇到过，拉取llama.cpp时因为网络问题中断了三次，后来配了代理才搞定。
# Linux
sudo apt install git -y
# Windows
# 去官网下载安装包，一路下一步
# 配置（重要）
git config --global user.name "Your Name"
git config --global user.email "your@email.com"
# 验证
git --version2.3.2 Cmake安装
Cmake的版本也有讲究。太老的版本不支持某些特性，太新的又可能跟旧项目不兼容。我个人习惯用3.26以上版本。
# Linux（推荐源码编译，版本可控）
wget https://github.com/Kitware/CMake/releases/download/v3.27.0/cmake-3.27.0.tar.gz
tar -xzf cmake-3.27.0.tar.gz
cd cmake-3.27.0
./bootstrap && make && sudo make install
# 或者用apt（版本可能较旧）
sudo apt install cmake -y
# 验证
cmake --version小技巧：如果你在Windows上，直接用Cmake的GUI版本，图形界面操作更直观。我刚开始学的时候，就是靠GUI界面理解Cmake的工作流程的。
2.4 硬件要求：CPU / 内存 / GPU
硬件这块，我直接说结论：内存是第一位的，GPU是第二位的，CPU反而是最不挑的。
2.4.1 最低配置（能跑，但慢）
| 组件 | 要求 | 说明 |
|---|---|---|
| CPU | 4核以上 | 主要影响推理速度，但差距不大 |
| 内存 | 16GB | 勉强能跑7B模型（4-bit量化） |
| GPU | 非必需 | 纯CPU推理，慢但能用 |
2.4.2 推荐配置（流畅体验）
| 组件 | 要求 | 说明 |
|---|---|---|
| CPU | 8核以上 | 多核并行推理，速度翻倍 |
| 内存 | 32GB | 7B模型随便跑，13B也能试试 |
| GPU | NVIDIA 8GB显存以上 | 推荐RTX 3060 12GB或更高 |
2.4.3 我的实际经验
我手头有台旧服务器，32GB内存，没有GPU。跑7B模型（Q4_K_M量化），生成速度大概每秒5-8个token。说实话，够用了。如果你只是做实验、写写文档，纯CPU方案完全可行。
但如果你要跑13B以上的模型，或者追求实时对话体验，那还是得上GPU。我建议至少12GB显存，不然模型都装不下。
一句话总结：内存决定你能不能跑，GPU决定你跑得快不快。先保证内存够，再考虑升级GPU。
2.5 本章知识体系
下面这张图，是我梳理的环境准备整体流程。你跟着走一遍，基本不会出问题。
这张图你看懂了吗？从上到下，先选操作系统，再配Python环境，接着装Git和Cmake，最后检查硬件。每一步都踩实了，后面就不会出幺蛾子。
我的建议：别急着往下走。花半小时把环境配好，比后面花两天排错划算得多。我刚开始带团队时，有个新人跳过环境配置直接跑模型，结果折腾了一周才发现是Python版本不对。嗯，从那以后，我要求每个人必须按这个流程走一遍。