边缘AI概述：什么是边缘AI、边缘计算与云计算的区别、边缘AI的典型应用场景

各位同学，欢迎来到《边缘AI模型轻量化与端侧推理实战》的第一课。

说实话，每次开课我都在想，第一讲到底该讲什么？直接上代码？还是先扯点概念？

我的习惯是——先搞清楚“我们到底在做什么”。

所以今天，咱们不急着写代码，先聊聊边缘AI到底是什么，它跟云计算有啥区别，以及它到底能用在哪些地方。

1.1 什么是边缘AI？

边缘AI，说白了，就是把人工智能算法从云端搬到离数据源更近的地方去执行。

你想想看，传统的AI应用，比如你手机上的语音助手，它其实是把你的语音传到云端服务器，服务器算完了再把结果传回来。这叫“云端AI”。

而边缘AI呢？它直接在设备本地完成推理。比如你家的智能摄像头，它自己就能识别出“门口有个人”，不需要把视频流全部上传到云端。

我在项目中遇到过不少朋友，一提到AI就想到“上云”。其实很多场景下，上云反而是最笨的办法。你想想看，一个工厂里的质检摄像头，每秒要处理几十帧图像，如果每帧都传到云端，网络带宽和延迟都是大问题。

1.2 边缘计算与云计算的区别

这里我画了一张对比图，帮你快速理解两者的差异。

嗯，这张图其实已经说得很清楚了。我再补充几个关键点：

• 延迟差异：云端推理通常有100ms以上的网络延迟，而边缘端可以做到10ms以内。我在做工业视觉项目时，客户要求检测结果必须在50ms内返回，云端方案根本做不到，只能走边缘。
• 带宽成本：一个1080p的摄像头，一天产生的视频数据大约是80GB。如果全部上传云端，光带宽费用就够你喝一壶的。边缘AI只在本地处理，只上传“结果”或“异常帧”，带宽成本直接降到原来的1%以下。
• 隐私与安全：有些数据是不能出设备的。比如医疗影像、家庭监控画面。边缘AI让数据“不出门”，只在本地完成推理，隐私问题自然就解决了。

1.3 边缘AI的典型应用场景

聊完概念，咱们看看边缘AI到底能干什么。我挑三个最常见的场景来说。

1.3.1 智能家居

智能家居可能是大家最熟悉的边缘AI场景了。

• 智能音箱：本地唤醒词检测（比如“小爱同学”），不用每次都上传云端。我记得最早一批智能音箱，唤醒延迟特别高，就是因为要等云端响应。现在都改成本地模型了，一叫就醒。
• 智能摄像头：人脸识别、移动侦测、宠物识别。我家里装了一个，它只在检测到“陌生人”时才会给我手机发通知，平时自己默默工作，不打扰我。
• 智能家电：比如智能空调，可以根据室内人数和位置自动调节风向和温度。这些推理都是在设备本地完成的。

1.3.2 工业视觉

这是我个人做得最多的领域。工业视觉对实时性和可靠性的要求极高。

• 缺陷检测：流水线上的产品，每秒经过好几个。摄像头拍下来，边缘AI模型要立刻判断“有没有划痕”、“尺寸是否合格”。我曾经帮一个电子厂做过PCB板检测，模型跑在NVIDIA Jetson上，推理时间控制在5ms以内。
• 安全监控：工厂里禁止工人进入危险区域。边缘AI摄像头可以实时检测人员位置，一旦越界立刻报警。注意，这里不能有网络延迟，因为工人可能下一秒就出事了。
• 机器人导航：AGV小车在仓库里自主移动，需要实时避障和路径规划。所有计算都在小车本地完成，不能依赖云端。

1.3.3 可穿戴设备

可穿戴设备对功耗和体积的要求最苛刻。

• 智能手表：心率监测、血氧检测、运动模式识别。这些模型都跑在手表内部的MCU上，功耗要控制在毫瓦级别。我见过一个方案，用TinyML在Cortex-M4上跑了一个轻量级神经网络，功耗只有0.5mW。
• AR眼镜：手势识别、眼球追踪、实时翻译。这些都需要极低延迟，否则用户会头晕。AR眼镜的算力比手机还受限，所以模型必须极度轻量化。
• 医疗贴片：连续监测心电图，在本地检测心律失常，只在发现异常时才通过蓝牙通知手机。这样既省电，又保护了患者隐私。

1.4 本章小结

好了，第一讲的内容就这些。我们来快速回顾一下：

维度	云计算	边缘计算
处理位置	远程数据中心	本地设备
延迟	高（100ms+）	低（<10ms）
网络依赖	必须在线	可离线
算力	几乎无限	受限（MCU/GPU）
典型场景	模型训练、大数据分析	实时推理、隐私敏感场景

边缘AI不是要取代云计算，而是和云计算形成互补。你想想看，未来的趋势一定是“云边协同”——边缘做实时、低延迟的推理，云端做训练和复杂分析。

下一讲，我们会深入讨论模型轻量化的核心技术。到时候我会拿出一些我在项目中踩过的坑，跟大家好好聊聊。

---

公众号:蓝海资料掘金营，微信deep3321