1. 边缘AI概述:边缘计算与云计算的区别、边缘AI的应用场景、课程整体技术栈介绍
大家好,我是你们这门课的主讲。在嵌入式AI和边缘计算这个领域摸爬滚打了十来年,踩过的坑比走过的路还多(笑)。今天咱们正式开始第一讲,先把地基打牢。
很多人一上来就问我:“老师,边缘AI到底是个啥?跟云计算有啥区别?” 嗯,这个问题问得好。咱们先把这个概念理清楚,后面三十章你才能走得顺。
1.1 边缘计算 vs 云计算:到底差在哪?
说白了,云计算就是把数据传到“天上”去算,边缘计算就是在“地上”就近算。我刚开始做项目时,总觉得云是万能的。直到有一次给一个工厂做视觉检测,摄像头拍一张照片传到云端,来回要两秒多。生产线上的次品早就跑过去了。你说气不气人?
咱们用一张表来对比,这样更直观:
| 对比维度 | 云计算 | 边缘计算 |
|---|---|---|
| 延迟 | 高(几十ms到几秒) | 低(ms级,甚至μs级) |
| 带宽需求 | 大(所有数据上传) | 小(只传结果或特征) |
| 隐私安全 | 依赖网络传输,有风险 | 数据本地处理,更安全 |
| 算力资源 | 几乎无限(集群) | 受限(芯片、功耗) |
| 离线能力 | 断网就瘫痪 | 可离线运行 |
| 典型设备 | 服务器、GPU集群 | 树莓派、Jetson、手机、MCU |
你想想看,智能家居里你喊一声“开灯”,如果还要绕到云端转一圈再回来,那体验得多糟糕。边缘AI就是让设备自己“长脑子”,不用事事问云。
核心结论:边缘计算不是要取代云计算,而是做云计算的“好搭档”。云负责训练大模型,边缘负责实时推理。各司其职,才是最佳实践。
1.2 边缘AI的应用场景:从家里到工厂
我这些年做过的项目,基本可以分成两大类:一类是智能家居,一类是工业视觉。咱们分别聊聊。
1.2.1 智能家居:让家更懂你
智能家居是边缘AI最接地气的战场。你想想看,一个智能音箱如果每次都要联网才能识别你的声音,那断网了不就成砖头了?
常见的应用包括:
- 语音唤醒与识别: 比如“小爱同学”、“天猫精灵”,本地做关键词唤醒,云端做复杂语义理解。
- 人脸识别门锁: 我做过一个项目,门锁上跑轻量级人脸模型,识别速度控制在200ms以内。用户站在门口不用等,直接开锁。
- 跌倒检测: 摄像头在本地分析画面,检测到老人跌倒立刻报警。数据不上云,保护隐私。
- 手势控制: 通过摄像头识别手势,控制灯光、窗帘。这个在疫情期间特别火,大家都想“无接触”。
我的经验: 智能家居设备往往对功耗极其敏感。我曾经在一个电池供电的门锁上跑模型,为了把功耗从500mW降到50mW,整整调了一个月的模型量化。所以后面课程里我会重点讲模型压缩和量化,这都是实战中血泪换来的经验。
1.2.2 工业视觉:给机器装上眼睛
工业视觉是边缘AI的“硬核”战场。这里对实时性和准确率的要求,比消费级高一个数量级。
典型场景:
- 缺陷检测: 流水线上产品表面划痕、脏污、缺件。我做过一个PCB板检测项目,要求每块板子检测时间不超过50ms,漏检率低于0.01%。
- OCR字符识别: 识别产品上的生产日期、批次号。很多工厂环境光线差、字符歪斜,模型得足够鲁棒。
- 人员安全监测: 检测工人是否佩戴安全帽、是否进入危险区域。这个必须本地实时处理,延迟一秒钟都可能出事故。
- AGV导航: 自动导引小车通过视觉识别路径和障碍物。我见过一个案例,AGV因为云端延迟没躲开障碍物,直接撞上了货架。
避坑指南: 我曾经在工业视觉项目里犯过一个低级错误——直接用消费级摄像头做工业检测。结果工厂的频闪灯光导致画面出现条纹,模型直接崩溃。后来换了工业相机,加了硬件触发同步,才解决问题。所以,选硬件时一定要考虑现场环境。
1.3 课程整体技术栈介绍
好,前面铺垫了这么多,咱们来看看这门课到底要学什么。我把它分成四个层次,你心里有个谱:
1.3.1 硬件层:选对芯片,事半功倍
边缘AI的硬件五花八门,从几块钱的MCU到几千块的Jetson都有。咱们课程会覆盖:
- ARM Cortex-M系列: 跑TinyML,适合传感器端
- ARM Cortex-A系列 + NPU: 比如瑞芯微RK3588,适合智能家居中控
- NVIDIA Jetson系列: 适合工业视觉、机器人
- Intel Movidius/Myriad: 适合视觉加速棒
1.3.2 模型层:从大到小,从通用到专用
咱们不会从零训练大模型,而是重点讲:
- 模型选型: MobileNet、EfficientNet、YOLO-Nano等轻量级网络
- 模型压缩: 剪枝、量化(INT8/INT4)、知识蒸馏
- 模型转换: PyTorch/TensorFlow → ONNX → TFLite/OpenVINO/TensorRT
1.3.3 框架层:工欲善其事,必先利其器
咱们会用到的主流框架:
- TensorFlow Lite Micro: 适合MCU端
- ONNX Runtime: 跨平台推理引擎
- OpenVINO: Intel系硬件优化
- TensorRT: NVIDIA系硬件优化
- MediaPipe: 谷歌的端侧视觉管线
1.3.4 应用层:实战出真知
咱们会做几个完整的项目:
- 智能家居语音唤醒系统(MCU端)
- 人脸识别门禁(Linux + NPU端)
- 工业缺陷检测(Jetson端)
- 多模态融合: 视觉+语音+传感器数据融合
一句话总结: 这门课的目标就是让你从“知道边缘AI”变成“能做边缘AI”。咱们不扯虚的,每一章都有代码、有实验、有坑要踩。
好了,第一讲就到这里。下一章咱们直接上手,从硬件选型开始,手把手搭建你的第一个边缘AI开发环境。到时候记得带上你的开发板,咱们一起干。