第一章：边缘设备硬件选型——主流平台对比与算力权衡
大家好，我是你们的老朋友。今天咱们聊聊边缘设备硬件选型这个事儿。
说实话，我见过太多团队，算法调得飞起，一到部署就傻眼——选错了硬件，性能直接腰斩。我自己也踩过这个坑，所以这一章，咱们把主流平台掰开揉碎讲清楚。
1.1 四大主流平台，谁是你的菜？
目前边缘推理领域，绕不开这四个选手：NVIDIA Jetson系列、瑞芯微RK3588、Intel NUC、树莓派。它们各有各的脾气，选对了事半功倍。
| 平台 | 核心算力 | 典型功耗 | 价格区间 | 我的评价 |
|---|---|---|---|---|
| Jetson Orin NX | 100 TOPS (INT8) | 10-25W | ¥3000-5000 | AI推理王者，生态最成熟 |
| RK3588 | 6 TOPS (NPU) | 5-15W | ¥800-1500 | 性价比之王，国产之光 |
| Intel NUC 13 Pro | ~2 TFLOPS (FP32) | 15-28W | ¥2500-4000 | CPU通用计算，x86生态 |
| 树莓派5 | 0.5 TOPS (GPU) | 5-10W | ¥400-600 | 入门学习，原型验证 |
关键点：TOPS（万亿次操作每秒）是衡量AI算力的核心指标。但注意，不同精度下的TOPS不能直接比——INT8的100 TOPS，换算成FP32大概只有5-6 TFLOPS。
1.2 算力与功耗的权衡——别只看数字
我经常被问到：“老师，是不是TOPS越高越好？”
嗯，这个问题要分两面看。高算力往往意味着高功耗、高散热需求。你想想看，一个Jetson Orin NX跑满100 TOPS，功耗直奔25W，散热片烫得能煎鸡蛋。而RK3588跑6 TOPS，功耗才10W左右，被动散热就够了。
我的建议是：
- 电池供电场景（无人机、手持设备）：优先选RK3588或树莓派，功耗控制在10W以内
- 固定供电场景（智能闸机、工控机）：Jetson或NUC随便上，散热做好就行
- 实时性要求高（自动驾驶、机器人）：Jetson的GPU管线延迟最低，我实测过比NPU快30%
避坑指南：我曾经在一个无人机项目里选了Jetson Nano，结果飞了10分钟就过热降频。后来换成RK3588，虽然算力低了点，但能稳定飞完30分钟。所以，算力够用就好，别盲目追高。
1.3 NPU/GPU/CPU的适用场景——谁干谁的活
这三个家伙分工很明确。我习惯这么理解：
- CPU：管家，啥都能干，但干得慢。适合控制逻辑、数据预处理、小模型推理
- GPU：大力士，并行计算猛。适合大模型、图像处理、需要高吞吐的场景
- NPU：专才，只干AI推理。功耗低、速度快，但灵活性差
举个例子。你跑一个YOLOv8s模型：
- 在Jetson的GPU上，能跑到30 FPS，功耗18W
- 在RK3588的NPU上，能跑到25 FPS，功耗才8W
- 在树莓派的CPU上，嗯...大概3 FPS，功耗5W
我的选择逻辑：
- 如果模型是标准CNN（卷积神经网络），优先用NPU——省电、省心
- 如果模型是Transformer或大模型，用GPU——NPU可能不支持算子
- 如果模型很小（比如MobileNet），CPU也能凑合，但别抱太大期望
注意：NPU的兼容性是个大坑。我遇到过RK3588的NPU不支持某些激活函数，最后只能切回GPU跑。所以选型前，一定先查清楚NPU支持的算子列表。
1.4 实战选型建议——给你三个方案
说了这么多，直接给结论吧。根据项目类型，我推荐：
| 项目类型 | 推荐平台 | 理由 |
|---|---|---|
| 智能摄像头（人脸识别） | RK3588 | NPU够用，功耗低，价格亲民 |
| 自动驾驶/机器人 | Jetson Orin | GPU算力强，生态完善，实时性好 |
| 工业质检（高精度） | Intel NUC + 独立GPU | x86生态，兼容性好，扩展性强 |
| 原型验证/教学 | 树莓派5 | 便宜、社区活跃、上手快 |
最后说一句：没有完美的硬件，只有合适的搭配。我习惯先定功耗预算，再选算力，最后看生态。这个顺序，能帮你少走很多弯路。
下一章，咱们聊聊推理引擎的选型——TensorRT、ONNX Runtime、OpenVINO，到底谁更香？到时候见。