2、操作系统与环境准备

说实话，选操作系统这件事，我见过太多人纠结了。

有人觉得Windows不行，有人觉得Mac太贵，还有人觉得Linux太折腾。其实吧，选哪个都能跑大模型，关键是你得把环境搭对。我自己三套系统都折腾过，今天就把踩过的坑和总结的经验全倒出来。

2.1 操作系统怎么选？

我个人的建议很简单：

• Windows用户：装WSL2，这是目前最省心的方案。我在Windows上跑了两年，除了偶尔的驱动问题，基本没大毛病。
• macOS用户：M1/M2芯片的直接用，Intel芯片的也能跑，就是慢点。我有个同事用M1 MacBook Air跑7B模型，效果还不错。
• Linux用户：Ubuntu 22.04 LTS是我的首选。为什么？因为社区支持最好，遇到问题随便一搜就有答案。

你想想看，大模型推理最吃的是GPU和内存。操作系统本身影响不大，但环境配置的坑可不少。

2.2 Windows用户的WSL2安装

嗯，这里要注意。WSL2不是必须的，但如果你用Windows，我强烈建议装一个。为什么？因为很多大模型工具在原生Windows下跑会有各种奇怪的问题。

我曾经在Windows下直接跑llama.cpp，结果编译就卡了半天。后来换了WSL2，十分钟搞定。

安装步骤

1. 启用WSL功能：以管理员身份打开PowerShell，运行：

dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

然后重启电脑。

2. 安装Linux内核更新包：去微软官网下载WSL2 Linux内核更新包，安装就行。
3. 设置WSL2为默认版本：

wsl --set-default-version 2

4. 安装Ubuntu：在Microsoft Store搜索Ubuntu，选22.04 LTS版本安装。

WSL2的配置优化

装完别急着用，先做两件事：

• 限制内存使用：在Windows用户目录下创建.wslconfig文件，写入：

[wsl2]
memory=8GB
processors=4
localhostForwarding=true

我一般设8GB，如果你内存大可以设高点。但别设满，Windows自己也要用。

• 设置默认用户：有时候WSL会以root登录，这很烦。用这个命令改回来：

ubuntu2204 config --default-user yourusername

2.3 Python 3.10+ 环境安装

Python版本这事，我吃过亏。之前用Python 3.8跑一个模型，结果依赖库装不上，折腾半天才发现是版本太老。所以现在统一用3.10+。

Linux/macOS安装

用pyenv管理Python版本，这是我目前觉得最靠谱的方式：

# 安装pyenv
curl https://pyenv.run | bash

# 添加到bashrc
echo 'export PYENV_ROOT="$HOME/.pyenv"' >> ~/.bashrc
echo 'command -v pyenv >/dev/null || export PATH="$PYENV_ROOT/bin:$PATH"' >> ~/.bashrc
echo 'eval "$(pyenv init -)"' >> ~/.bashrc

# 安装Python 3.10
pyenv install 3.10.12
pyenv global 3.10.12

macOS用户注意，如果遇到编译错误，先装Xcode Command Line Tools：

xcode-select --install

Windows安装

Windows下我推荐直接装Anaconda，省心：

1. 去官网下载Anaconda安装包（Python 3.10版本）
2. 安装时勾选"Add Anaconda to my PATH environment variable"
3. 装完打开终端验证：python --version

python -m venv llm_env
source llm_env/bin/activate  # Linux/macOS
llm_env\Scripts\activate     # Windows

2.4 Git与CMake安装

这两个工具，说白了就是大模型世界的"螺丝刀"和"扳手"。Git用来下载代码，CMake用来编译。

Git安装

Linux用户：

sudo apt update && sudo apt install git -y

macOS用户：

brew install git

Windows用户：去git-scm.com下载安装包，一路下一步就行。

装完配置一下：

git config --global user.name "你的名字"
git config --global user.email "你的邮箱"

我个人习惯加两个别名：

git config --global alias.co checkout
git config --global alias.br branch

CMake安装

这个稍微麻烦点。很多模型需要从源码编译，CMake版本不能太低。

Linux用户：

# 先卸载旧版本
sudo apt remove cmake -y

# 下载最新版
wget https://github.com/Kitware/CMake/releases/download/v3.27.6/cmake-3.27.6-linux-x86_64.tar.gz
tar -xzf cmake-3.27.6-linux-x86_64.tar.gz
sudo mv cmake-3.27.6-linux-x86_64 /opt/cmake

# 添加到PATH
echo 'export PATH=/opt/cmake/bin:$PATH' >> ~/.bashrc
source ~/.bashrc

macOS用户：

brew install cmake

Windows用户：去cmake.org下载安装包，安装时记得勾选"Add CMake to the system PATH"。

2.5 验证环境

装完别急着走，跑个简单的验证脚本：

# 检查Python
python --version
# 输出应为 Python 3.10.x

# 检查Git
git --version
# 输出应为 git 2.x

# 检查CMake
cmake --version
# 输出应为 cmake 3.27.x

如果都正常，恭喜你，环境准备好了。