一、嵌入式AI概述：AIoT时代背景
大家好，我是这门课的主讲人。在嵌入式领域摸爬滚打了十几年，我亲眼见证了AI从云端“下沉”到设备端的过程。今天咱们聊聊嵌入式AI的来龙去脉。
1.1 AIoT时代背景
先说个现象。你想想看，十年前我们谈物联网，重点在“连接”——把设备连上网。五年前谈AI，重点在“云端”——数据上传到服务器处理。但现在呢？
我去年帮一家工厂做产线改造，他们装了200多个传感器，每天产生TB级的数据。如果全传到云端处理，光带宽费就够买几台服务器了。更别说延迟问题——机器都快撞上了，数据还在路上呢。
这就是AIoT（人工智能物联网）要解决的问题。说白了，就是让设备在本地就能做决策，而不是事事都问云端。
核心矛盾：物联网设备产生的海量数据 vs 云端处理的带宽、延迟、隐私瓶颈。
为什么会这样？因为物联网设备数量增长太快了。我记得2018年有个数据，全球物联网设备数已经超过手机数量。到2025年，这个数字预计会达到300亿台。这么多设备，每个都往云端发数据，网络根本扛不住。
1.2 嵌入式AI的定义与特点
嵌入式AI，就是把AI模型部署到资源受限的嵌入式设备上，让设备具备本地推理能力。
我刚开始接触这个领域时，觉得这简直是“螺蛳壳里做道场”。一个典型的嵌入式设备，可能只有几百KB的内存，几十MHz的主频，却要跑神经网络模型。嗯，这里要注意——不是所有AI模型都能塞进去。
嵌入式AI有这几个特点：
- 资源受限：算力、内存、功耗都有限制。我做过一个项目，设备电池要用一年，平均功耗不能超过10mW。
- 实时性要求高：工业控制场景，响应延迟必须控制在毫秒级。
- 离线运行：不依赖网络，本地就能完成推理。
- 成本敏感：消费级产品，芯片成本可能就几块钱。
我的经验：选型时别只看算力。我吃过亏——选了个算力很强的芯片，结果功耗太高，散热搞不定。后来换了个算力稍弱但能效比高的方案，反而更合适。
1.3 边缘计算与云计算的协同
很多人以为边缘计算要取代云计算，其实不是。它们更像是“搭档”。
我个人习惯这样划分：
| 维度 | 边缘计算 | 云计算 |
|---|---|---|
| 延迟 | 毫秒级 | 百毫秒到秒级 |
| 算力 | 有限（通常<1 TOPS） | 无限（弹性扩展） |
| 数据量 | 处理关键数据 | 处理全量数据 |
| 典型场景 | 实时控制、隐私保护 | 模型训练、大数据分析 |
举个例子。智能摄像头：边缘端做实时的人脸检测（毫秒级响应），云端做长期的人脸库训练（需要大量算力）。这就是协同。
我曾经遇到一个坑：客户想把所有AI计算都放在边缘端，结果模型太大跑不动。后来改成“边缘做推理，云端做训练”的架构，问题就解决了。
避坑指南：不要试图在边缘端做模型训练。训练需要大量数据和算力，这是云端的强项。边缘端只做推理就够了。
1.4 课程整体架构与学习路径
这门课共30章，我把它分成四个阶段：
- 基础篇（第1-8章）：嵌入式AI概念、硬件选型、模型压缩、部署工具链。
- 实战篇（第9-18章）：图像分类、目标检测、语音识别、异常检测等典型应用。
- 进阶篇（第19-25章）：大模型接口开发、模型量化、异构计算、性能优化。
- 综合篇（第26-30章）：端云协同架构、OTA升级、安全防护、项目实战。
下面这张图，是我自己画的课程知识体系。你看一眼，心里就有数了。
学习路径我建议这样走：
- 有嵌入式基础：直接从第9章开始做项目，遇到不懂的再回头补基础。
- 有AI基础：重点看第1-8章和第19-25章，理解模型怎么“塞”进设备。
- 零基础：按顺序学，每章动手做实验。我每章都准备了可运行的代码。
我的建议：别贪多。每章学完，一定要把代码跑通。我见过太多人“眼睛会了手不会”。代码跑通了，才算真懂了。
好了，第一章就到这里。记住一句话：嵌入式AI不是把大模型硬塞进小设备，而是让AI在资源受限的环境下，依然能高效工作。这是门手艺活，也是门艺术。
公众号:蓝海资料掘金营，微信deep3321