第二章 硬件选型指南:主流边缘计算硬件对比
说实话,每次有朋友问我「边缘AI该买什么板子」,我都得先反问一句:你项目到底要跑什么模型?功耗有没有限制?预算多少?
这三个问题问完,答案基本就出来了。我见过太多人买了个Jetson Orin回来,结果只跑个分类模型,风扇呼呼转,功耗还压不住。也见过有人用树莓派硬跑YOLOv8,帧率低到怀疑人生。
这一章,咱们就把市面上主流的四款硬件掰开揉碎聊一聊。我会结合我自己的踩坑经历,帮你找到最适合的那块板子。
2.1 四款主流硬件速览
先给个总览表格,方便你快速对比:
| 硬件型号 | AI算力 | 典型功耗 | 参考价格 | 适合场景 |
|---|---|---|---|---|
| Jetson Nano (4GB) | 472 GFLOPS (FP16) | 5W - 10W | 约 900 元 | 入门级视觉AI、教育 |
| RK3588 (8核) | 6 TOPS (INT8) | 8W - 15W | 约 600 - 1200 元 | 边缘计算、智能安防 |
| 树莓派 5 (8GB) | ≈ 0.5 TOPS (CPU) | 5W - 12W | 约 500 元 | 原型验证、轻量控制 |
| Intel NUC 13 Pro | ≈ 2.5 TOPS (集成GPU) | 28W - 65W | 约 3000 - 5000 元 | 高性能边缘、x86生态 |
嗯,这里要注意:算力数字看着挺唬人,但实际跑起来差距更大。为什么?因为不同硬件的「有效算力」差别很大。我后面会细说。
2.2 Jetson Nano:入门首选,但别太贪心
Jetson Nano 是我个人用得最多的板子。它最大的优势是生态——NVIDIA 的 JetPack SDK 把 CUDA、cuDNN、TensorRT 全给你打包好了。你想想看,从训练到部署,几乎无缝衔接。
我在项目中遇到过一件事:有个客户想用 Nano 跑实时人脸检测,模型是 MobileNet-SSD。一开始帧率只有 15 FPS,后来我换成 TensorRT 做 INT8 量化,直接飙到 30 FPS。嗯,这就是生态的力量。
优点:
- CUDA 生态成熟,模型转换工具链完善
- 功耗低,5W 模式用 USB 供电就能跑
- 社区资源丰富,遇到问题基本都能搜到答案
缺点:
- 4GB 内存是硬伤,跑大模型容易 OOM
- CPU 性能偏弱,数据预处理会成为瓶颈
- 价格不算便宜,性价比被 RK3588 压着打
2.3 RK3588:国产黑马,性价比之王
说实话,RK3588 是我最近一年最看好的芯片。它集成了 6 TOPS 的 NPU,而且支持 INT4/INT8/INT16 多种量化精度。最让我惊喜的是,它的价格只有 Jetson Nano 的一半左右。
我记得有一次帮客户做智能门禁方案,用 RK3588 跑轻量级人脸识别模型,功耗才 8W,帧率稳定在 25 FPS 以上。客户后来问我:「这板子多少钱?」我说:「不到一千。」他当场就拍板了。
优点:
- NPU 算力强,INT8 下能跑 6 TOPS
- 接口丰富:双千兆网口、PCIe、SATA、HDMI-IN
- 价格亲民,适合批量部署
缺点:
- NPU 工具链不如 CUDA 成熟,踩坑概率高
- 社区资源相对少,遇到问题得自己啃文档
- CPU 大核是 A76,性能够用但不算顶尖
2.4 树莓派 5:原型验证利器,别指望它跑推理
树莓派 5 的 CPU 比上一代强了不少,但说实话,它依然不是为 AI 推理设计的。它的 GPU 算力只有 0.5 TOPS 左右,跑个轻量级分类模型还行,想跑目标检测?嗯,帧率会让你崩溃。
我个人习惯把树莓派当「控制节点」用——比如用 GPIO 控制摄像头、传感器,然后把数据通过 MQTT 发给 Jetson 或者 RK3588 做推理。这样分工明确,各司其职。
优点:
- 生态极其庞大,GPIO、I2C、SPI 接口齐全
- 功耗极低,5W 左右就能稳定运行
- 价格便宜,适合做原型验证
缺点:
- AI 算力太弱,基本跑不了实时推理
- 内存只有 8GB,且 GPU 和 CPU 共享内存
- 没有专用的 NPU 或 GPU 加速单元
2.5 Intel NUC:x86 生态的守护者
Intel NUC 是个特殊的存在。它用的是 x86 架构,所以你能直接跑 Windows 或者 Ubuntu 桌面版。这意味着什么?意味着你可以把 PC 上的 AI 模型直接搬过来,几乎不用改代码。
我有个项目是用 NUC 跑 OpenVINO 优化的模型,推理速度比 Jetson Nano 快不少。但代价是功耗——NUC 的 TDP 高达 65W,是 Nano 的 6 倍多。你想想看,如果项目是电池供电,NUC 基本没戏。
优点:
- x86 生态兼容性最好,软件部署最省心
- CPU 性能强,适合做复杂的数据预处理
- 支持 Windows,适合工业场景
缺点:
- 功耗高,不适合低功耗场景
- 价格贵,性价比不如 ARM 方案
- 体积大,不适合嵌入式安装
2.6 算力与功耗的权衡:怎么选?
说白了,选硬件就是做一道「算力 vs 功耗 vs 成本」的三角题。没有完美的方案,只有最适合你的方案。
我一般会按这个思路来选:
- 先定功耗预算:电池供电?还是插电?电池供电的话,功耗必须控制在 10W 以内,那 Jetson Nano 或 RK3588 是首选。
- 再定算力需求:跑什么模型?分类、检测还是分割?模型大小是多少?如果模型超过 100MB,建议直接上 RK3588 或 NUC。
- 最后看生态:团队熟悉 CUDA 吗?还是更习惯 OpenVINO?如果团队全是 PyTorch 用户,Jetson 系列最省心。
举个例子:我最近做一个智能摄像头项目,要求 24 小时不间断运行,功耗不能超过 12W。模型是 YOLOv8n,输入 640x640。我最后选了 RK3588,因为它的 NPU 在 INT8 下能跑到 30 FPS,功耗才 10W 左右。Jetson Nano 也能跑,但帧率只有 20 FPS,而且价格贵一倍。
- 入门/教育/低功耗:Jetson Nano
- 性价比/量产/安防:RK3588
- 原型验证/控制节点:树莓派 5
- 高性能/x86 生态:Intel NUC
好了,这一章就聊到这儿。下一章我会带你实际搭建 RK3588 的开发环境,包括刷机、安装 NPU 驱动、跑通第一个推理示例。到时候咱们再细聊。