ONNX · MCU 推理

📘 30 章完整路径 v1.0
01ONNX与嵌入式AI概述
ONNX是什么、为什么在MCU上做推理、课程目标与前置知识。
02MCU硬件平台选型
常见MCU对比(STM32、ESP32、Cortex-M系列)、算力与内存要求、外设接口。
03ONNX模型基础
模型结构(计算图、节点、张量)、ONNX算子集、模型可视化工具(Netron)。
04模型导出与转换
从PyTorch/TensorFlow导出ONNX、onnx-simplifier优化、模型验证。
05模型量化原理
为什么需要量化、FP32 vs INT8、对称量化与非对称量化、校准数据集。
06量化工具实战
ONNX Runtime量化工具、Intel Neural Compressor、TensorRT量化对比。
07模型剪枝与蒸馏
结构化剪枝、非结构化剪枝、知识蒸馏基础、在MCU上的收益。
08ONNX Runtime框架
ONNX Runtime架构、C++ API、Session管理、内存分配策略。
09ONNX Runtime for MCU
ORT的嵌入式分支、Micro Runtime介绍、支持的算子子集。
10交叉编译环境搭建
GCC交叉编译器、CMake工具链文件、依赖库静态编译。
11MCU端推理引擎移植
源码下载、编译配置、链接优化、内存占用分析。
12模型加载与解析
从Flash读取模型、解析计算图、张量内存分配、输入输出绑定。
13算子实现与优化
常见算子(Conv2D、Gemm、Relu、Pooling)的C语言实现、循环展开与循环分块。
14内存管理策略
静态内存池、动态内存分配、张量复用、DMA加速。
15推理流水线设计
数据采集→预处理→推理→后处理→输出,时间片调度。
16输入数据预处理
图像缩放(双线性插值)、归一化、通道转换、数据类型转换。
17输出数据后处理
Softmax实现、阈值过滤、非极大值抑制(NMS)、结果解析。
18性能分析与调优
Profiling工具、算子耗时统计、内存带宽瓶颈、计算与IO重叠。
19电源管理与功耗优化
动态电压频率调整(DVFS)、睡眠模式、推理任务调度。
20多模型串联推理
流水线并行、模型切换、中间结果缓存、状态机设计。
21传感器数据融合
多传感器同步、时间戳对齐、滑动窗口、特征融合。
22无线通信与模型更新
OTA固件升级、模型差分更新、校验与回滚机制。
23安全与加密
模型加密存储、安全启动、防篡改校验、侧信道攻击防护。
24调试与日志系统
串口日志、断点调试、张量值打印、错误码定义。
25单元测试与集成测试
测试框架选择(Unity/CMock)、算子测试、端到端测试。
26持续集成与自动化部署
GitLab CI/CD、自动化编译、自动化测试、固件打包。
27实战项目一:关键词唤醒
模型选择、数据准备、部署与测试。
28实战项目二:人体活动识别
传感器数据、模型训练、MCU端推理。
29实战项目三:异常声音检测
特征提取、模型量化、实时推理与报警。
30课程总结与进阶方向
常见问题汇总、社区资源、边缘AI发展趋势、下一步学习路径。