边缘AI概述：为什么我坚持把算力放在摄像头旁边
大家好，我是这门课的主讲人。在嵌入式视觉领域摸爬滚打了十来年，今天咱们聊聊边缘AI的底层逻辑。
说实话，我第一次接触边缘计算是在一个安防项目上。客户要求实时分析30路1080P视频流，云端方案延迟高得离谱，带宽费用更是吓人。那时候我就意识到——把AI放在数据产生的地方，才是工程上的最优解。
边缘计算 vs 云计算：不是替代，是互补
很多人问我：「边缘计算是不是要取代云计算？」我的回答很直接——想多了。它们俩是分工不同的搭档。
| 对比维度 | 边缘计算 | 云计算 |
|---|---|---|
| 延迟 | 毫秒级（<10ms） | 百毫秒到秒级 |
| 带宽需求 | 低（只传结果） | 高（传原始数据） |
| 数据隐私 | 本地处理，不出设备 | 需上传到云端 |
| 算力规模 | 受限（几TOPS到几十TOPS） | 几乎无限 |
| 典型硬件 | Jetson、RK3588、算能 | GPU集群、TPU阵列 |
| 运维成本 | 分布式，维护复杂 | 集中式，运维简单 |
我个人的习惯是：实时性要求高的推理放边缘，模型训练和复杂分析放云端。举个例子，人脸识别门禁必须本地做，因为没人愿意在门口等3秒才开门。但模型更新、数据报表这些，交给云端处理更划算。
核心观点：边缘AI不是云计算的简化版，而是针对实时性、隐私性、带宽约束的专门优化方案。你想想看，一个工厂每天产生10TB的质检图像，全传云端？光光纤费用就够买几台边缘服务器了。
边缘AI的三大应用场景
这些年我跑过不少现场，总结下来边缘AI最成熟的落地场景就三个方向。
1. 安防监控：从「看得见」到「看得懂」
安防是边缘AI最早爆发的领域。我记得2018年给一个智慧园区做方案，客户要求实时检测人员入侵、车辆违停、烟火报警。传统方案是把所有视频流拉到机房分析，结果网络拥堵导致报警延迟超过10秒。
后来我们换成了边缘方案：每个摄像头旁边挂一个Jetson Nano，本地跑YOLOv5。效果立竿见影——报警延迟降到200ms以内，带宽占用减少90%。
- 典型功能：人脸识别、车牌识别、行为分析（打架、摔倒）、烟火检测
- 硬件选型：海思Hi3519、瑞芯微RK3588、英伟达Jetson系列
- 避坑指南：我曾经在户外项目上忽略了宽动态问题，导致逆光场景下检测率暴跌。后来加了HDR预处理，才算搞定。
2. 工业质检：机器比人眼更靠谱
工业场景是我个人觉得最有技术含量的领域。为什么？因为环境太恶劣了——震动、高温、粉尘，普通设备根本扛不住。
我参与过一个手机屏幕缺陷检测项目。产线速度是每分钟120片，传统人工质检漏检率高达5%。我们部署了边缘AI方案，用RK3588跑轻量级分类网络，检测精度达到99.7%，速度还比人快3倍。
- 检测类型：表面划痕、尺寸偏差、颜色异常、装配缺失
- 模型特点：通常用MobileNet、ShuffleNet等轻量网络，量化到INT8
- 注意：工业场景的标注数据极其珍贵。我建议先用合成数据做预训练，再用少量真实数据微调。
3. 智慧零售：让货架自己「说话」
智慧零售这个方向，说白了就是让摄像头帮店主看店。我做过一个无人货柜项目，需要实时识别用户拿了什么商品、放回了什么商品。
这里有个坑——光照变化。超市的灯光、自然光、甚至手机闪光灯都会影响识别。我们最终方案是：边缘端跑目标检测，云端做商品匹配。这样既保证了实时性，又利用了云端的商品库更新能力。
- 应用场景：货架商品识别、客流统计、热力图分析、自助结账
- 技术难点：遮挡严重、商品包装相似、频繁更新SKU
- 我的经验：别想着一个模型搞定所有商品。按品类分模型，比如饮料类、零食类、日用品类，每个模型只负责20-30种商品，精度会高很多。
课程技术栈全景图
这门课不是纸上谈兵。我会带你从零搭建一套完整的边缘端视频流AI分析系统。下面是整个课程的技术栈，我把它分成四层。
| 层级 | 技术选型 | 说明 |
|---|---|---|
| 硬件层 | Jetson Orin NX / RK3588 / 算能BM1684 | 覆盖主流边缘AI芯片，从20TOPS到100TOPS |
| 系统层 | Ubuntu 22.04 LTS + JetPack 6.0 | 包含驱动、CUDA、TensorRT、OpenCV等 |
| 推理引擎 | TensorRT / ONNX Runtime / OpenVINO | 模型优化、量化、部署的核心 |
| 应用层 | Python + C++ 混合编程 | 视频流解码、多线程流水线、结果推送 |
我的建议：如果你刚开始接触边缘AI，先从Jetson系列入手。生态最成熟，踩坑最少。等熟悉了流程，再尝试RK3588这类国产芯片——性价比确实高，但文档和社区支持差一些。
为什么我选择这套技术栈？
说实话，市面上能用的方案很多。但我选这套组合，是因为它经过了多个量产项目的验证。
- TensorRT：英伟达的亲儿子，INT8量化后推理速度能提升3-5倍。我在一个项目中把YOLOv8从30fps优化到120fps，全靠它。
- 多线程流水线：视频流分析最怕的就是「解码等推理，推理等解码」。我会教你用生产者-消费者模式，把解码、预处理、推理、后处理做成流水线，吞吐量翻倍不是梦。
- C++ + Python混合：Python写业务逻辑快，C++写底层推理稳。我习惯用Python搭框架，关键推理部分用C++封装成so库调用。
注意：不要一上来就追求极致优化。先跑通流程，再逐步优化。我曾经在一个项目上花了两周调TensorRT，结果发现瓶颈在视频解码上——白白浪费了时间。
课程能带给你什么？
30章的内容，我会带你走完一个完整项目：从硬件选型、环境搭建、模型训练、量化部署，到最终的视频流实时分析系统。每个章节都有可运行的代码和详细的调试过程。
嗯，这里要强调一下——实战是唯一的捷径。光看不练，你永远不知道TensorRT的INT8量化为什么掉精度，也不知道多线程流水线为什么会有死锁。跟着我一步步做，踩过的坑我都帮你填平了。
下一章，咱们开始搭建开发环境。准备好你的Jetson或者RK3588，咱们动手干起来。