一、边缘计算概述
大家好,我是你们这门课的主讲。今天咱们聊聊边缘计算这个老生常谈、但又不得不谈的话题。
说实话,我入行那会儿,边缘计算还没这么火。大家一股脑儿往云上搬东西,觉得云就是万能的。后来呢?我在一个工业质检项目里栽了个跟头——摄像头采集的数据传到云端,来回延迟快两秒,产线早就跑过去了。嗯,从那以后,我对边缘计算有了全新的认识。
1.1 边缘计算的定义
边缘计算,说白了就是「在靠近数据源头的地方干活」。数据不用千里迢迢跑到云端,在本地设备上就能完成处理和分析。
我个人习惯把它理解成「本地大脑」。你想想看,一个工厂里有几十个摄像头,每秒钟产生海量数据。如果全部上传云端,网络带宽扛不住,延迟也受不了。边缘计算就是在摄像头旁边放一个小盒子,直接在现场把活干了。
核心要点:边缘计算不是要取代云计算,而是和云计算打配合。边缘负责实时、低延迟的任务,云端负责复杂、全局的模型训练和存储。
1.2 与云计算的区别
很多新手问我:「老师,边缘计算和云计算到底有啥区别?」我一般用一张表说清楚:
| 对比维度 | 云计算 | 边缘计算 |
|---|---|---|
| 处理位置 | 远程数据中心 | 靠近数据源(设备端) |
| 延迟 | 几十毫秒到几秒 | 毫秒级(1-10ms) |
| 网络依赖 | 强依赖互联网 | 可离线运行 |
| 计算资源 | 几乎无限 | 受限(CPU/内存/功耗) |
| 数据量 | 海量存储 | 实时过滤、只上传关键数据 |
| 典型设备 | 服务器集群 | 树莓派、Jetson、AI摄像头 |
我曾经在一个智慧零售项目里踩过坑。客户要求顾客进店3秒内完成人脸识别和会员推送。如果用云端方案,光网络传输就要1.5秒,加上排队处理,根本来不及。后来换成边缘方案,在门口放了个Jetson Nano,识别时间直接降到800毫秒。这就是区别。
我的建议:选边缘还是选云,先问自己三个问题——延迟能不能忍?带宽够不够?数据隐私要不要保护?如果答案都是「要」,那边缘计算就是你的菜。
1.3 边缘AI的应用场景
边缘AI这几年火得一塌糊涂。我挑三个最典型的场景聊聊,都是我自己亲手做过的。
工业质检
这是边缘AI最成熟的落地场景之一。我在一个手机外壳检测项目里,产线速度是每分钟120个零件。传统方案靠人工肉眼检测,漏检率高达5%。后来我们部署了边缘AI方案——每个工位放一个带NPU的工业相机,模型跑的是轻量化的YOLOv5s。
效果怎么样?检测速度从每张图200ms降到35ms,漏检率降到0.3%。而且最关键的是,所有数据都在本地处理,不会把产品图像传到外网,客户很放心。
避坑指南:我曾经在工业项目里犯过一个低级错误——模型精度在实验室跑99%,上了产线直接掉到85%。为什么?因为产线光照不均匀,摄像头角度也有偏差。所以记住:边缘AI的模型一定要做「现场数据增强」,别偷懒。
智慧零售
智慧零售这块,我做过一个货架识别系统。超市里几千种商品,顾客拿了就走,摄像头自动识别并结算。听起来很酷对吧?但实际做起来全是坑。
首先,边缘设备的算力有限。你不能在树莓派上跑ResNet-152,跑不动。我们最后用的是MobileNetV3 + 知识蒸馏,模型大小压缩到2MB,推理时间15ms。
其次,商品遮挡问题严重。一瓶可乐被前面的薯片挡住一半,怎么识别?我当时的解决方案是多角度摄像头 + 时序融合,连续几帧画面综合判断。嗯,这个技巧后面章节会详细讲。
自动驾驶
自动驾驶是边缘AI的终极挑战。为什么?因为延迟要求是「生死级别」的。一辆车以60km/h行驶,每秒钟跑16.7米。如果感知延迟多100ms,车就多跑1.67米。这个距离,可能就是撞上还是没撞上的区别。
我记得参与过一个L4级自动驾驶项目,车上有6个摄像头、3个激光雷达、5个毫米波雷达。所有传感器数据必须在30ms内完成融合和决策。云端?根本不可能。所有计算都在车上的边缘计算平台完成,用的是英伟达的Orin芯片,算力254 TOPS。
这里有个关键点:多模型流水线。摄像头跑目标检测,激光雷达跑点云分割,毫米波雷达跑目标跟踪,最后所有结果融合。每个模型都是独立的流水线节点,串起来必须在30ms内完成。这就是咱们这门课的核心内容——多模型流水线编排。
一句话总结:边缘AI不是把云端的模型搬到本地跑,而是针对边缘场景重新设计模型和架构。算力受限、延迟敏感、数据隐私,这三个约束决定了边缘AI的设计思路完全不同。
好了,第一章就聊到这儿。下一章咱们会深入讲边缘设备的硬件选型——树莓派、Jetson、RK3588到底怎么选?我在项目里踩过的坑,到时候全部分享给你们。