第一课：课程导论与环境准备
大家好，欢迎来到《ONNX导出与Yolo模型跨平台部署实战》的第一课。
我是你们的讲师，一个在AI部署坑里摸爬滚打了好几年的老工程师。说实话，每次带新人，我最怕的不是他们学不会，而是他们一开始就被环境配置劝退了。所以这一课，咱们先把地基打牢。
1.1 ONNX简介：为什么它这么重要？
ONNX，全称是Open Neural Network Exchange。说白了，它就是AI模型界的“通用语言”。
你想想看，平时我们用PyTorch训练模型，用TensorFlow也行，但部署的时候，手机端、服务器端、嵌入式设备，它们各自喜欢的格式都不一样。难道每换一个平台，就要重新训练一次？
ONNX就是来解决这个问题的。它定义了一套标准的数据流图格式。你只要把PyTorch模型导出成ONNX，理论上就能在任何支持ONNX Runtime的设备上跑起来。
核心价值：一次导出，到处运行。这大大降低了模型从研究到落地的成本。
我个人习惯，在项目初期就会把模型导出成ONNX做一次“预演”。为什么？因为很多模型在训练框架里跑得飞起，一导出就报错。早点发现，早点修，总比上线前手忙脚乱强。
1.2 Yolo系列模型概述：从v3到v8
Yolo，全称You Only Look Once。它把目标检测当成一个回归问题来解决，一步到位，又快又准。
我最早接触Yolo是v3版本，那时候它就已经是工业界的宠儿了。后来v4、v5、v6、v7、v8，一代比一代强。
| 版本 | 核心特点 | 我的评价 |
|---|---|---|
| Yolo v3 | 多尺度预测，FPN结构 | 经典之作，奠定了后续基础 |
| Yolo v5 | Ultralytics出品，易用性极佳 | 入门首选，社区活跃 |
| Yolo v8 | Anchor-Free，支持分类、分割、姿态 | 目前最主流，功能全面 |
嗯，这里要注意。虽然版本很多，但ONNX导出的核心逻辑是相通的。你只要搞懂一个，其他的都能触类旁通。我在项目中遇到过，有人拿着v5的导出代码直接套在v8上，结果报了一堆错。其实只要搞清楚输入输出的差异，问题不大。
1.3 跨平台部署概念：不只是“跑起来”
跨平台部署，听起来高大上，其实就三件事：
- 能跑：模型能在目标设备上成功加载和推理。
- 跑得快：利用硬件加速（比如NVIDIA的TensorRT，Intel的OpenVINO）把速度提上去。
- 跑得稳：精度损失在可接受范围内，不崩溃，不闪退。
我曾经接过一个项目，客户要求在树莓派上跑Yolo。模型是跑起来了，但一帧要5秒。这哪是实时检测，这是幻灯片播放。后来我们用了ONNX Runtime + 量化，才把速度压到200毫秒以内。
避坑指南：不要等到部署阶段才考虑性能。训练时就要想好，你的目标设备是什么？算力有多少？这直接决定了你选哪个Yolo版本，用不用TensorRT。
1.4 开发环境搭建：把地基打牢
好了，理论说完了，咱们来点实际的。环境搭建这一步，我建议你跟着我一步步来，别跳步。我见过太多人因为版本不匹配，卡在这里一整天。
1.4.1 Python环境
我个人习惯用Anaconda来管理Python环境。干净、隔离、好卸载。
# 创建一个新的环境，Python版本建议3.8或3.9
conda create -n yolo_deploy python=3.9
conda activate yolo_deploy1.4.2 CUDA与cuDNN
这是NVIDIA显卡的加速库。说白了，没有它们，你的GPU就是个摆设。
- CUDA： 并行计算平台。版本要和你的显卡驱动匹配。
- cuDNN： 深度神经网络的加速库。版本要和CUDA匹配。
警告：CUDA、cuDNN、PyTorch三者版本必须严格对应。我曾经因为cuDNN版本高了0.1，导致模型训练时直接报“非法内存访问”。查了三天才找到原因。
你可以去NVIDIA官网下载。安装后，用以下命令验证：
# 验证CUDA
nvcc --version
# 验证cuDNN（在安装目录下）
cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 21.4.3 PyTorch安装
PyTorch是咱们的主力框架。安装时一定要选对CUDA版本。
# 以CUDA 11.8为例
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118安装完成后，跑个简单的测试：
import torch
print(torch.__version__)
print(torch.cuda.is_available()) # 应该返回True如果返回False，别慌。先检查显卡驱动，再检查CUDA版本。嗯，这一步我建议你多花点时间，确保万无一失。
1.5 本章小结
这一课，我们搞清楚了ONNX是什么，Yolo家族有哪些成员，跨平台部署到底在做什么。最重要的是，我们把开发环境搭好了。
下一课，我们会用PyTorch训练一个最简单的Yolo模型，然后亲手把它导出成ONNX。准备好了吗？
课后作业：
- 完成环境搭建，确保`torch.cuda.is_available()`返回True。
- 思考一下：你手头的项目，最终要部署在什么平台上？
好了，今天就到这里。记住，环境搭好了，后面的事就顺了。咱们下节课见。