ONNX是什么、为什么在MCU上做推理、课程目标与前置知识。
常见MCU对比(STM32、ESP32、Cortex-M系列)、算力与内存要求、外设接口。
模型结构(计算图、节点、张量)、ONNX算子集、模型可视化工具(Netron)。
从PyTorch/TensorFlow导出ONNX、onnx-simplifier优化、模型验证。
为什么需要量化、FP32 vs INT8、对称量化与非对称量化、校准数据集。
ONNX Runtime量化工具、Intel Neural Compressor、TensorRT量化对比。
结构化剪枝、非结构化剪枝、知识蒸馏基础、在MCU上的收益。
ONNX Runtime架构、C++ API、Session管理、内存分配策略。
ORT的嵌入式分支、Micro Runtime介绍、支持的算子子集。
GCC交叉编译器、CMake工具链文件、依赖库静态编译。
从Flash读取模型、解析计算图、张量内存分配、输入输出绑定。
常见算子(Conv2D、Gemm、Relu、Pooling)的C语言实现、循环展开与循环分块。
数据采集→预处理→推理→后处理→输出,时间片调度。
图像缩放(双线性插值)、归一化、通道转换、数据类型转换。
Softmax实现、阈值过滤、非极大值抑制(NMS)、结果解析。
Profiling工具、算子耗时统计、内存带宽瓶颈、计算与IO重叠。
动态电压频率调整(DVFS)、睡眠模式、推理任务调度。
模型加密存储、安全启动、防篡改校验、侧信道攻击防护。
测试框架选择(Unity/CMock)、算子测试、端到端测试。
GitLab CI/CD、自动化编译、自动化测试、固件打包。
常见问题汇总、社区资源、边缘AI发展趋势、下一步学习路径。