2. 开发环境搭建：安装Python、Miniconda、创建虚拟环境、安装PyTorch/TensorFlow、安装ONNX Runtime、安装TensorRT

好，咱们正式开始动手了。

这一章，说白了就是给你的电脑「装上武器」。没有趁手的工具，再牛的模型也跑不起来。我见过太多同学卡在环境配置上，一卡就是两三天，心态直接崩了。别急，跟着我的节奏来，半小时搞定。

2.1 为什么非得用 Miniconda？

你可能会问：「我直接用系统自带的 Python 不行吗？」

嗯，理论上可以。但实际项目中，你会遇到一个头疼的问题——依赖冲突。比如项目A需要 PyTorch 1.12，项目B需要 PyTorch 2.0，你装来装去，系统 Python 环境就乱成一锅粥了。

我个人习惯用 Miniconda。它比 Anaconda 轻量得多，只装核心的包管理工具，剩下的你自己按需安装。说白了，Miniconda 就是给你每个项目一个「独立的小房间」，互不干扰。

我的经验： 我曾经在一个客户现场，他们的服务器上 Python 环境被搞坏了三次，最后我直接用 Miniconda 重建，十分钟解决问题。从那以后，我所有项目都强制用虚拟环境。

2.2 安装 Python 和 Miniconda

先装 Python？不，先装 Miniconda。因为 Miniconda 自带了一个干净的 Python 环境。

2.2.1 下载 Miniconda

去官网下载对应你操作系统的安装包：

  • Windows：选 .exe 安装包
  • Linux：选 .sh 脚本
  • macOS：选 .pkg 或 .sh

下载地址：https://docs.conda.io/en/latest/miniconda.html

2.2.2 安装步骤

Windows 用户直接双击，一路 Next 就行。注意勾选「Add Miniconda to PATH」——这个很多人会忘。

Linux/macOS 用户打开终端，运行：

bash Miniconda3-latest-Linux-x86_64.sh

然后一路 yes。安装完后，关掉终端重新打开，让环境变量生效。

注意： 安装过程中会问你是否要初始化 conda，选 yes。否则你后面还得手动配置。

2.3 创建虚拟环境

环境装好了，咱们来创建第一个虚拟环境。我习惯给每个项目单独建一个环境，名字就用项目名。

conda create -n ai_deploy python=3.9 -y

这条命令的意思是：创建一个叫 ai_deploy 的环境，Python 版本指定为 3.9。为什么选 3.9？因为目前 PyTorch 和 TensorFlow 对 3.9 的支持最稳定。3.10 以上有些库还没完全适配，容易踩坑。

创建完后，激活环境：

conda activate ai_deploy

你会看到终端前面多了个 (ai_deploy) 的标识，说明你已经在虚拟环境里了。

小技巧： 我每次创建环境都会顺手装一个 ipython，方便调试：conda install ipython -y

2.4 安装 PyTorch / TensorFlow

这两个是深度学习框架，二选一还是都装？看你的项目需求。我个人建议都装上，因为不同模型可能依赖不同的框架。

2.4.1 安装 PyTorch

去 PyTorch 官网（pytorch.org）找到对应的安装命令。它会根据你的系统、CUDA 版本自动生成命令。

比如我的是 Linux + CUDA 11.8，命令就是：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

如果你没有 GPU，或者只想用 CPU 跑，那就装 CPU 版本：

pip install torch torchvision torchaudio
避坑： 我曾经在 Jetson 设备上装 PyTorch，直接用 pip 装了个 x86 版本，结果跑不起来。后来才发现，嵌入式设备要用 NVIDIA 官方提供的预编译包。所以，先确认你的硬件平台再动手。

2.4.2 安装 TensorFlow

TensorFlow 的安装相对简单：

pip install tensorflow

如果你需要 GPU 支持，装这个：

pip install tensorflow-gpu

不过从 TensorFlow 2.10 开始，GPU 版本已经合并到主包了，直接 pip install tensorflow 就能自动检测 GPU。

2.5 安装 ONNX Runtime

ONNX Runtime 是微软推出的推理引擎，专门用来加速模型推理。它的好处是跨平台、跨框架，你训练好的模型转成 ONNX 格式后，用 ONNX Runtime 跑，速度往往比原框架快不少。

安装命令：

pip install onnxruntime

如果你有 GPU，装 GPU 版本：

pip install onnxruntime-gpu
我的经验： 有一次我把一个 PyTorch 模型转成 ONNX，用 ONNX Runtime 推理，速度提升了 30%。而且部署到 Windows 服务器上，不用装 PyTorch，省了不少麻烦。

2.6 安装 TensorRT

TensorRT 是 NVIDIA 的推理优化引擎，专门针对他们的 GPU 做极致优化。说白了，就是让你的模型在 NVIDIA 显卡上跑得飞快。

安装 TensorRT 稍微麻烦一点，因为它不是纯 Python 包，需要先装 NVIDIA 的底层库。

2.6.1 安装步骤

  1. 去 NVIDIA 官网下载 TensorRT 安装包（需要注册账号）
  2. 选择对应你的 CUDA 版本和系统架构的包
  3. 解压后，把路径加到环境变量里

以 Linux 为例，假设你下载的是 TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz：

tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz
cd TensorRT-8.6.1.6
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$(pwd)/lib
export PATH=$PATH:$(pwd)/bin

然后安装 Python 包：

pip install python/tensorrt-8.6.1-cp39-none-linux_x86_64.whl
注意： TensorRT 的版本必须和你的 CUDA 版本严格匹配。我见过有人装了不匹配的版本，结果推理时直接报错，查了半天才发现是版本问题。

2.7 验证安装是否成功

所有东西装完后，咱们来验证一下。写个简单的 Python 脚本：

import torch
import tensorflow as tf
import onnxruntime
import tensorrt as trt

print("PyTorch version:", torch.__version__)
print("TensorFlow version:", tf.__version__)
print("ONNX Runtime version:", onnxruntime.__version__)
print("TensorRT version:", trt.__version__)

# 检查 GPU 是否可用
print("CUDA available:", torch.cuda.is_available())
print("TensorRT GPU:", trt.Builder(trt.Logger()) is not None)

如果所有版本都正常打印出来，没有报错，恭喜你，环境搭建成功了！

总结一下： 这一章我们完成了从零搭建开发环境。Miniconda 管理环境，PyTorch/TensorFlow 训练模型，ONNX Runtime 做跨平台推理，TensorRT 做极致加速。这套组合拳，基本覆盖了端侧 AI 部署的常见场景。

下一章，咱们开始讲模型训练。到时候我会拿一个实际项目来演示，从数据准备到模型导出，一条龙走一遍。准备好了吗？

← 上一章 📖 返回目录 下一章 →