2、边缘GPU硬件选型：Jetson系列、Intel Movidius、Google Coral、算力与功耗权衡、成本分析
好，咱们进入实战的第二讲。硬件选型这事儿，说难不难，说简单也不简单。我见过太多项目，算法调得漂漂亮亮，结果一上边缘设备，要么跑不动，要么功耗超标，要么成本直接干翻预算。说白了，选型就是一场「算力、功耗、成本」的三角博弈。
今天我就把市面上主流的几款边缘GPU硬件——Jetson系列、Intel Movidius、Google Coral——掰开揉碎了讲。我会结合我自己的项目踩坑经历，帮你理清思路。
2.1 NVIDIA Jetson 系列：生态最成熟，但功耗你得掂量
Jetson 系列，目前最主流的选择。从 Nano 到 Orin，覆盖了从入门到高端的全场景。我个人习惯把 Jetson 看作「缩小版的工作站」。为什么？因为它跑的是完整的 Linux 系统，CUDA 生态直接搬过来。
2.1.1 型号与算力速览
| 型号 | AI算力 (TOPS) | 典型功耗 (W) | GPU架构 | 参考价格 (USD) |
|---|---|---|---|---|
| Jetson Nano | 0.472 | 5-10 | Maxwell | ~129 |
| Jetson TX2 | 1.33 | 7.5-15 | Pascal | ~399 |
| Jetson Xavier NX | 21 | 10-20 | Volta | ~399 |
| Jetson Orin NX | 70 | 10-25 | Ampere | ~599 |
| Jetson Orin AGX | 275 | 15-60 | Ampere | ~1999 |
你看这个表，算力从 0.4 TOPS 到 275 TOPS，跨度非常大。但注意，功耗也跟着往上窜。Orin AGX 跑到 60W 的时候，散热就不是一个小风扇能搞定的了。
核心观点： Jetson 的优势在于「软件生态」。你可以在 PC 上用 PyTorch/TensorFlow 训练模型，然后通过 TensorRT 直接部署到 Jetson 上。迁移成本极低。
2.1.2 我的实战经验
我在一个智慧零售项目中用过 Jetson Xavier NX。当时客户要求 8 路 1080p 视频流做实时人体检测。我一开始觉得 Nano 就够了，结果一测，Nano 处理单路都卡。后来换成 Xavier NX，配合 TensorRT 做 INT8 量化，8 路稳稳跑到 30fps。
嗯，这里要注意：标称算力是理论峰值。实际能用到多少，取决于你的模型优化程度。我见过有人用 Nano 跑 YOLOv5s，INT8 量化后能到 20fps，但跑原版 FP32 就只有 5fps。差距就是这么大。
小技巧： 选 Jetson 时，先看你的模型能不能做 INT8 量化。如果能，算力需求可以打 3-5 折。如果不能，老老实实按 FP16 算力来估算。
2.2 Intel Movidius：低功耗的「小钢炮」，但生态有点封闭
Intel Movidius，现在叫 Intel Neural Compute Stick 2（NCS2）。它是一个 USB 棒形态的 VPU（视觉处理单元）。说白了，就是插在树莓派或者 x86 主机上，当个 AI 加速器用。
2.2.1 硬件规格
- 算力： 约 1 TOPS（FP16）
- 功耗： 约 1.5W（USB 供电）
- 接口： USB 3.0 Type-A
- 价格： 约 $79
你看这个功耗，1.5W！比 Jetson Nano 的 5W 还低。而且它不需要额外的电源，插上 USB 就能用。对于电池供电的移动设备来说，这个优势太明显了。
2.2.2 我为什么说它「封闭」？
Movidius 用的是 Intel 自家的 OpenVINO 框架。你训练好的模型，得先转成 OpenVINO 的 IR（中间表示）格式，才能部署。这个过程，说实话，有点折腾。
我曾经在一个无人机巡检项目里试过 Movidius。模型是 MobileNetV2-SSD，在 PC 上跑得好好的。转到 OpenVINO 后，精度掉了 2 个点，而且有些算子不支持，得手动替换。折腾了两天才跑通。
避坑指南： 我曾经因为贪图 Movidius 的低功耗，选了一个需要自定义算子的模型。结果 OpenVINO 不支持，最后只能换模型。所以，选 Movidius 之前，一定先查 OpenVINO 的算子支持列表。别等板子到手了才发现跑不了。
2.2.3 适用场景
- 原型验证： 快速验证 AI 功能，成本低
- 低功耗设备： 电池供电的摄像头、无人机
- 已有 x86 平台： 给现有工控机加 AI 能力
2.3 Google Coral：TPU 加持，推理速度惊人
Google Coral，用的是 Google 自研的 Edge TPU。它有两种形态：USB 加速棒和开发板。我重点说说 USB 加速棒，因为它的性价比最高。
2.3.1 硬件规格
| 参数 | 数值 |
|---|---|
| 算力 | 4 TOPS（INT8） |
| 功耗 | 约 2W |
| 接口 | USB 3.0 Type-C |
| 价格 | 约 $60 |
4 TOPS 的 INT8 算力，功耗才 2W。这个能效比，比 Jetson Nano 高出一大截。而且价格只要 $60，比 Movidius 还便宜。
2.3.2 为什么说它「快」？
Edge TPU 是专门为推理设计的 ASIC。它不像 GPU 那样需要处理复杂的图形渲染，只做矩阵乘法。所以，对于 INT8 量化的模型，它的推理速度非常快。
我做过一个对比测试：用 MobileNetV2 做图像分类，输入 224x224。
- Jetson Nano (FP16): 约 30ms
- Google Coral (INT8): 约 8ms
你看，快了将近 4 倍。而且 Coral 的功耗只有 Nano 的一半不到。
关键点： Coral 只支持 INT8 量化模型。如果你的模型不能量化，或者量化后精度损失太大，那 Coral 就不适合你。说白了，Coral 是为「已经优化好的轻量模型」准备的。
2.3.3 我的使用感受
我在一个智能门禁项目里用过 Coral。模型是 FaceNet，做人脸识别。量化后精度从 99.2% 降到了 98.5%，但推理速度从 50ms 降到了 12ms。对于门禁场景，这个精度完全够用。而且 Coral 的 USB 棒直接插在树莓派 4B 上，整个系统功耗不到 5W，非常省心。
2.4 算力与功耗的权衡：怎么算这笔账？
好，现在我们把三家的产品放在一起，看看怎么选。我总结了一个「选型三步法」：
- 先定功耗预算： 你的设备是电池供电还是市电？电池供电的话，总功耗不能超过 10W。市电的话，可以放宽到 30-60W。
- 再估算算力需求： 你的模型需要多少 TOPS？用 TensorRT 或者 OpenVINO 的 profiler 工具，跑一遍你的模型，看实际算力消耗。
- 最后看成本： 在满足前两个条件的前提下，选最便宜的。
举个例子：
- 场景 A： 电池供电的智能摄像头，需要做简单的物体检测。功耗预算 5W，算力需求 1 TOPS。选 Google Coral 或者 Movidius 都行。我建议 Coral，因为生态更友好。
- 场景 B： 市电供电的工业质检设备，需要跑复杂的语义分割模型。功耗预算 30W，算力需求 20 TOPS。选 Jetson Xavier NX，没跑。
- 场景 C： 原型验证，预算有限，先跑通再说。选 Google Coral USB 棒，$60 搞定。
个人习惯： 我一般会留 20% 的算力余量。比如模型需要 8 TOPS，我就选 10 TOPS 以上的硬件。因为实际部署时，可能会有多路并发或者额外的预处理开销。
2.5 成本分析：别只看硬件价格
很多新手选型，只看硬件价格。Jetson Nano 才 $129，好便宜！结果买回来发现，散热片、风扇、电源适配器、SD 卡、外壳……七七八八加起来，成本翻倍。
我列一个「真实成本清单」给你看：
| 项目 | Jetson Nano | Google Coral | Intel Movidius |
|---|---|---|---|
| 核心硬件 | $129 | $60 | $79 |
| 散热方案 | $15 (风扇+散热片) | $0 (被动散热) | $0 (被动散热) |
| 电源适配器 | $10 (5V/4A) | $0 (USB供电) | $0 (USB供电) |
| 存储 (32GB) | $10 (SD卡) | $0 (自带) | $0 (无存储) |
| 外壳/载板 | $20 | $0 | $0 |
| 总计 | $184 | $60 | $79 |
你看，Jetson Nano 的「隐藏成本」很高。而 Coral 和 Movidius 因为是 USB 棒形态，基本零配件成本。
注意： 成本还包括「开发时间」。Jetson 的 TensorRT 优化可能需要 1-2 周，Coral 的模型量化可能只需要 2-3 天。时间就是钱，这个账也要算进去。
2.6 总结：我的选型建议
好了，说了这么多，我直接给你一个「傻瓜式」选型指南：
- 如果你要做复杂的视觉模型（YOLOv5、ResNet、Transformer）： 选 Jetson Orin NX 或 Xavier NX。别犹豫，其他两个跑不动。
- 如果你要做轻量模型（MobileNet、EfficientNet-Lite）： 选 Google Coral。性价比最高，功耗最低。
- 如果你已经有 x86 平台，只想加个 AI 加速器： 选 Intel Movidius 或 Google Coral。插上就能用。
- 如果你预算极其有限，只想跑个 demo： 选 Google Coral USB 棒。$60 搞定一切。
最后说一句：没有最好的硬件，只有最合适的硬件。选型之前，一定先跑一遍你的模型，看看实际算力消耗。别光看 datasheet 上的数字，那都是理想情况。
下一章，我会带你实战部署一个模型到 Jetson 上。到时候，咱们再细聊 TensorRT 的那些坑。