一、边缘计算概述

大家好,我是你们这门课的主讲。今天咱们聊聊边缘计算这个老生常谈、但又不得不谈的话题。

说实话,我入行那会儿,边缘计算还没这么火。大家一股脑儿往云上搬东西,觉得云就是万能的。后来呢?我在一个工业质检项目里栽了个跟头——摄像头采集的数据传到云端,来回延迟快两秒,产线早就跑过去了。嗯,从那以后,我对边缘计算有了全新的认识。

1.1 边缘计算的定义

边缘计算,说白了就是「在靠近数据源头的地方干活」。数据不用千里迢迢跑到云端,在本地设备上就能完成处理和分析。

我个人习惯把它理解成「本地大脑」。你想想看,一个工厂里有几十个摄像头,每秒钟产生海量数据。如果全部上传云端,网络带宽扛不住,延迟也受不了。边缘计算就是在摄像头旁边放一个小盒子,直接在现场把活干了。

核心要点:边缘计算不是要取代云计算,而是和云计算打配合。边缘负责实时、低延迟的任务,云端负责复杂、全局的模型训练和存储。

1.2 与云计算的区别

很多新手问我:「老师,边缘计算和云计算到底有啥区别?」我一般用一张表说清楚:

对比维度 云计算 边缘计算
处理位置 远程数据中心 靠近数据源(设备端)
延迟 几十毫秒到几秒 毫秒级(1-10ms)
网络依赖 强依赖互联网 可离线运行
计算资源 几乎无限 受限(CPU/内存/功耗)
数据量 海量存储 实时过滤、只上传关键数据
典型设备 服务器集群 树莓派、Jetson、AI摄像头

我曾经在一个智慧零售项目里踩过坑。客户要求顾客进店3秒内完成人脸识别和会员推送。如果用云端方案,光网络传输就要1.5秒,加上排队处理,根本来不及。后来换成边缘方案,在门口放了个Jetson Nano,识别时间直接降到800毫秒。这就是区别。

我的建议:选边缘还是选云,先问自己三个问题——延迟能不能忍?带宽够不够?数据隐私要不要保护?如果答案都是「要」,那边缘计算就是你的菜。

1.3 边缘AI的应用场景

边缘AI这几年火得一塌糊涂。我挑三个最典型的场景聊聊,都是我自己亲手做过的。

工业质检

这是边缘AI最成熟的落地场景之一。我在一个手机外壳检测项目里,产线速度是每分钟120个零件。传统方案靠人工肉眼检测,漏检率高达5%。后来我们部署了边缘AI方案——每个工位放一个带NPU的工业相机,模型跑的是轻量化的YOLOv5s。

效果怎么样?检测速度从每张图200ms降到35ms,漏检率降到0.3%。而且最关键的是,所有数据都在本地处理,不会把产品图像传到外网,客户很放心。

避坑指南:我曾经在工业项目里犯过一个低级错误——模型精度在实验室跑99%,上了产线直接掉到85%。为什么?因为产线光照不均匀,摄像头角度也有偏差。所以记住:边缘AI的模型一定要做「现场数据增强」,别偷懒。

智慧零售

智慧零售这块,我做过一个货架识别系统。超市里几千种商品,顾客拿了就走,摄像头自动识别并结算。听起来很酷对吧?但实际做起来全是坑。

首先,边缘设备的算力有限。你不能在树莓派上跑ResNet-152,跑不动。我们最后用的是MobileNetV3 + 知识蒸馏,模型大小压缩到2MB,推理时间15ms。

其次,商品遮挡问题严重。一瓶可乐被前面的薯片挡住一半,怎么识别?我当时的解决方案是多角度摄像头 + 时序融合,连续几帧画面综合判断。嗯,这个技巧后面章节会详细讲。

自动驾驶

自动驾驶是边缘AI的终极挑战。为什么?因为延迟要求是「生死级别」的。一辆车以60km/h行驶,每秒钟跑16.7米。如果感知延迟多100ms,车就多跑1.67米。这个距离,可能就是撞上还是没撞上的区别。

我记得参与过一个L4级自动驾驶项目,车上有6个摄像头、3个激光雷达、5个毫米波雷达。所有传感器数据必须在30ms内完成融合和决策。云端?根本不可能。所有计算都在车上的边缘计算平台完成,用的是英伟达的Orin芯片,算力254 TOPS。

这里有个关键点:多模型流水线。摄像头跑目标检测,激光雷达跑点云分割,毫米波雷达跑目标跟踪,最后所有结果融合。每个模型都是独立的流水线节点,串起来必须在30ms内完成。这就是咱们这门课的核心内容——多模型流水线编排。

一句话总结:边缘AI不是把云端的模型搬到本地跑,而是针对边缘场景重新设计模型和架构。算力受限、延迟敏感、数据隐私,这三个约束决定了边缘AI的设计思路完全不同。

好了,第一章就聊到这儿。下一章咱们会深入讲边缘设备的硬件选型——树莓派、Jetson、RK3588到底怎么选?我在项目里踩过的坑,到时候全部分享给你们。