嵌入式AI与大模型接口开发实战

📚 共计 30 章节
第1章
嵌入式AI概述
AIoT时代背景 · 定义与特点 · 边缘计算与云协同 · 课程架构
概念导论
第2章
嵌入式硬件平台选型
STM32/ESP32/Jetson Nano/RK3588 · 算力功耗权衡 · 外设接口
硬件选型
第3章
嵌入式Linux系统搭建
交叉编译 · Bootloader/内核 · 根文件系统 · 烧录启动
Linux系统
第4章
Python在嵌入式中的基础
MicroPython vs 标准Python · 环境搭建 · GPIO/PWM实战
PythonGPIO
第5章
C与Python混合编程
ctypes/cffi · 调用C动态库 · 性能对比与场景
混合编程性能
第6章
传感器数据采集与预处理
I2C/SPI/UART · 温湿度IMU驱动 · 滤波归一化
传感器驱动
第7章
轻量级神经网络模型设计
MobileNet/TinyML · 剪枝量化 · TFLite转换
模型TinyML
第8章
模型部署到嵌入式设备
TFLite Micro · ONNX Runtime · 推理优化
部署推理
第9章
大模型接口基础
RESTful/gRPC · HTTP请求响应 · API鉴权
API协议
第10章
Python请求库实战
requests · 超时重试 · aiohttp异步
网络异步
第11章
主流大模型API调用
OpenAI/文心一言/通义千问 · 参数调优 · 成本控制
大模型API
第12章
流式响应处理
SSE原理 · 流式文本解析 · 实时语音合成
流式SSE
第13章
本地大模型部署方案
Ollama/llama.cpp · GGUF量化 · 内存CPU优化
本地量化
第14章
嵌入式端语音唤醒与识别
Porcupine唤醒 · Vosk离线识别 · VAD检测
语音唤醒
第15章
嵌入式端图像采集与预处理
Camera驱动 · OpenCV优化 · 压缩与Base64
图像OpenCV
第16章
多模态输入融合
文本/图像/语音统一接口 · 时间戳对齐 · 缓存
多模态融合
第17章
大模型驱动的智能交互系统
意图识别 · 槽位填充 · 对话状态管理
交互对话
第18章
嵌入式端知识库构建
Chroma/FAISS · Embedding模型 · 边缘部署
知识库向量
第19章
检索增强生成 (RAG) 在嵌入式端
文档分块索引 · 相似度检索 · Prompt拼接
RAG检索
第20章
工具调用与Function Calling
Function Calling原理 · 工具注册执行 · 结果回传
工具函数调用
第21章
嵌入式端Agent框架设计
ReAct模式 · 任务规划循环 · 错误恢复
Agent规划
第22章
通信协议与数据安全
MQTT/WebSocket · TLS/SSL · 签名校验
通信安全
第23章
OTA远程升级
差分升级 · 签名验证 · 断点续传回滚
OTA升级
第24章
功耗管理与性能调优
DVFS · 深度睡眠 · 推理任务调度
功耗调优
第25章
端侧模型持续学习
增量学习 · 数据回传 · 模型版本管理
持续学习微调
第26章
多设备协同推理
设备发现组网 · 任务分割 · 结果聚合
协同分布式
第27章
边缘-云协同架构设计
数据预处理上云 · 紧急本地处理 · 混合推理
边缘云架构
第28章
项目实战:智能语音助手(一)
需求分析 · 硬件选型 · 唤醒识别模块
项目语音
第29章
项目实战:智能语音助手(二)
大模型集成 · RAG知识库 · 语音合成联调
项目语音
第30章
项目实战:智能视觉问答系统
摄像头采集 · 图像描述 · 大模型问答交互
项目视觉