第二章 嵌入式平台选型：主流AI芯片对比与硬件考量
做嵌入式AI，第一步就是选硬件。这事儿我踩过不少坑。
你想想看，模型训练好了，跑在PC上飞快，一上嵌入式设备就卡成PPT。为什么？芯片没选对。今天咱们就聊聊Jetson、RK3588、树莓派这三兄弟，以及选型时那些不得不说的门道。
2.1 三大主流平台速览
先给个直观对比。我个人习惯把这三类芯片分成三个档次：
| 特性 | NVIDIA Jetson (Orin NX) | Rockchip RK3588 | 树莓派 5 (BCM2712) |
|---|---|---|---|
| AI算力 | 100 TOPS (INT8) | 6 TOPS (NPU) | ≈0.5 TOPS (GPU) |
| CPU | 12核 Cortex-A78AE | 4核 A76 + 4核 A55 | 4核 Cortex-A76 |
| GPU | Ampere架构 2048 CUDA | Mali-G610 MP4 | VideoCore VII |
| 内存 | 8/16GB LPDDR5 | 4/8/16GB LPDDR4X | 2/4/8GB LPDDR4X |
| 功耗 | 15W - 40W | 5W - 15W | 5W - 10W |
| 价格 | ≈3000-6000元 | ≈800-1500元 | ≈300-600元 |
| 生态成熟度 | ★★★★★ | ★★★☆☆ | ★★★★☆ |
看到这个表，你大概心里有数了。Jetson是专业选手，RK3588是性价比之王，树莓派嘛……更适合做原型验证。
2.2 Jetson系列：专业级AI部署平台
Jetson是我用得最多的平台。为什么？因为它有CUDA。
说白了，NVIDIA在AI领域的积累太深了。TensorRT优化、DeepStream视频分析、各种预训练模型……你想到的它都有。我在项目中遇到过客户要求实时检测8路1080p视频流，用Jetson Orin NX轻松搞定。
核心优势：
- TensorRT优化：模型推理速度提升3-5倍是常态
- CUDA生态：几乎所有AI框架都原生支持
- 多路视频处理：硬件编解码器支持H.264/H.265
注意：Jetson的功耗不低。我曾经在散热设计上吃过亏——Orin NX满载40W，小机箱根本压不住。一定要预留散热空间。
2.3 RK3588：国产芯片的逆袭
说实话，前几年国产AI芯片我是不太敢用的。但RK3588改变了我的看法。
它内置了一个6 TOPS的NPU，专门跑神经网络。虽然比不上Jetson，但对付YOLOv8s这种轻量模型绰绰有余。我最近一个项目就是用RK3588做边缘计算盒子，成本只有Jetson方案的三分之一。
不过要注意几点：
- NPU编程门槛高：需要把模型转成RKNN格式，有些算子不支持
- 文档质量参差不齐：Rockchip的文档更新速度跟不上社区
- 内存带宽有限：LPDDR4X的带宽跑大模型会成瓶颈
我的建议：如果你做的是轻量级视觉应用（比如人脸检测、车牌识别），RK3588是性价比最优解。但别指望它能跑YOLOv8x这种大模型。
2.4 树莓派：原型验证利器
树莓派能跑YOLO吗？能。但仅限于极小模型。
我记得第一次在树莓派4上跑YOLOv5n，帧率只有3-4 FPS。后来换了树莓派5，勉强能到8 FPS。嗯，做演示还行，真上产品就有点勉强了。
树莓派的定位很清晰：
- 快速原型验证：Python生态完善，GPIO接口丰富
- 教学演示：适合给学生展示AI原理
- 低功耗场景：5W功耗，电池供电也能跑
避坑指南：我曾经用树莓派做了一款产品原型，结果发现量产时性能不够。后来被迫换平台，整个软件栈重写。所以——树莓派只适合验证算法可行性，别用它做最终产品。
2.5 硬件选型考量因素
选芯片不是看参数表那么简单。我总结了几条实战经验：
2.5.1 算力需求评估
先算一笔账：你的模型需要多少算力？
# 粗略估算公式
所需TOPS = 模型GFLOPs × 目标FPS / 1000
# 举例：YOLOv8s 约 28.4 GFLOPs
# 目标30 FPS
所需TOPS = 28.4 × 30 / 1000 = 0.852 TOPS
# 但实际要考虑：
# - 预处理/后处理开销（约20%）
# - 系统其他任务占用（约30%）
# - 安全余量（建议留50%）
实际需求 = 0.852 × 1.2 × 1.3 × 1.5 ≈ 2.0 TOPS你看，理论算力和实际需求差了一倍多。这就是为什么我总说「纸上得来终觉浅」。
2.5.2 内存与带宽
模型推理时，内存带宽往往比算力更关键。YOLOv8s一次推理需要加载约22MB的权重参数，如果内存带宽不够，CPU/GPU就得干等着。
| 内存类型 | 带宽 | 适合场景 |
|---|---|---|
| LPDDR4X | ≈17 GB/s | 轻量模型（YOLOv8n/s） |
| LPDDR5 | ≈68 GB/s | 中等模型（YOLOv8m/l） |
| GDDR6 | ≈336 GB/s | 大模型（YOLOv8x） |
2.5.3 接口与外设
做嵌入式AI，摄像头接口是刚需。我个人偏好：
- MIPI CSI：延迟低，适合实时视频流
- USB 3.0：通用性好，但延迟稍高
- 以太网：如果做分布式系统，千兆网口是必须的
2.5.4 散热与功耗
这一点经常被忽略。我见过有人用Jetson Nano做户外设备，结果夏天直接过热关机。
经验之谈：选型时把功耗预算翻一倍。比如芯片标称15W，你按30W做散热设计。这样即使满负载运行，温度也能控制在安全范围内。
2.6 选型决策树
最后，给你一个实用的决策流程：
- 先定预算：500元以下？树莓派。1000-2000元？RK3588。3000元以上？Jetson。
- 再算算力：用上面的公式算一下，别凭感觉。
- 看生态：团队熟悉CUDA就选Jetson，熟悉Linux嵌入式就选RK3588。
- 考虑量产：小批量（<100台）用Jetson，大批量用RK3588。
嗯，选型这事儿没有标准答案。但记住一点：别为了省钱选性能不够的平台，也别为了性能选超出预算的平台。平衡才是王道。
下一章，咱们聊聊YOLO模型怎么在嵌入式设备上做量化。那才是真正考验功力的地方。