📘 低功耗AI推理 · 30章

⚡ 实时 · 边缘 · 轻量
01 课程导论与硬件选型
低功耗AI推理挑战、主流硬件对比 (MCU/NPU/FPGA)、开发板选型建议
02 开发环境搭建
嵌入式Linux烧录、交叉编译链、Python/C++运行时部署
03 模型轻量化基础
剪枝、权重量化(INT8/FP16)、知识蒸馏核心原理与适用场景
04 TensorFlow Lite Micro
框架介绍、模型转换、在MCU部署分类模型
05 ONNX Runtime & Tengine
跨平台引擎对比、优化部署、性能基准测试
06 CMSIS-NN与ARM优化
Cortex-M SIMD指令、CMSIS-NN库、卷积加速
07 NPU驱动与推理
K210/瑞芯微NPU架构、驱动加载、模型编译推理
08 RTOS集成
FreeRTOS任务调度、中断管理、AI推理任务管理
09 传感器数据预处理
低功耗ADC采样、滑动窗口滤波、归一化与特征提取
10 模型输入输出处理
张量格式转换、内存对齐、DMA搬运优化
11 功耗测量与分析
万用表/功率分析仪、休眠/推理/传输功耗拆解
12 动态电压频率调整
Linux CPUFreq、根据负载调频、功耗性能权衡
13 模型分区与异构计算
MCU+NPU拆分、任务流水线、同步机制
14 缓存与内存优化
Cache命中率、内存池管理、避免频繁分配
15 稀疏化推理
稀疏矩阵存储、跳过零值计算、硬件稀疏加速
16 知识蒸馏实战
教师-学生训练、软标签与温度系数、部署学生模型
17 量化感知训练(QAT)
模拟量化前向、伪量化节点、微调恢复精度
18 模型编译器与TVM
Apache TVM编译、AutoTVM调优、低功耗代码生成
19 端侧语音唤醒实现
MFCC特征、小型DNN/CNN、实时唤醒与误唤醒抑制
20 端侧视觉检测实现
MobileNet SSD、摄像头驱动、帧率与功耗平衡
21 异常检测与预测性维护
振动传感器、时序模型(LSTM/TCN)、边缘报警
22 联邦学习与模型更新
设备端增量学习、参数上传聚合、通信优化
23 安全与隐私保护
TEE可信执行环境、模型加密、输入脱敏
24 OTA固件升级
差分升级、安全校验、断点续传与回滚
25 调试与性能剖析
JTAG/SWD调试、性能计数器、perf工具
26 常见问题与避坑指南
内存泄漏、堆栈溢出、浮点运算陷阱
27 综合项目一:智能温控器
温度预测模型、PID+AI控制、低功耗策略
28 综合项目二:可穿戴跌倒检测
加速度计、轻量Transformer、实时报警
29 综合项目三:智能农业监测
土壤传感器、作物病害分类、太阳能供电
30 课程总结与未来展望
低功耗AI趋势、RISC-V机遇、学习路径建议