嵌入式AI编译器 · 从零到一实战

1AI编译器概述

什么是AI编译器 · 嵌入式需求 · 与通用编译器区别

2嵌入式AI硬件基础

ARM Cortex-M · RISC-V · NPU/DSP · 内存带宽

3计算图与中间表示

计算图概念 · 静态/动态图 · IR设计 · MLIR基础

4前端解析与模型导入

ONNX解析 · TFLite导入 · 自定义算子注册

5图优化技术

常量折叠 · 算子融合 · 死代码消除 · 表达式化简

6量化技术基础

对称/非对称量化 · 量化参数 · 校准数据集

INT8实现 · 混合精度 · 量化感知训练

8算子库与内核实现

手写卷积优化 · Winograd · Im2Col+GEMM

9内存规划与调度

静态分配 · 内存复用 · Double Buffer

10调度与执行引擎

单/多线程调度 · 异步执行模型

11代码生成技术

目标代码生成 · 指令选择 · 寄存器分配

12TVM框架入门

TVM架构 · Relay IR · AutoTVM调优

编译到ARM · 交叉编译 · Runtime部署

14MLIR框架入门

Dialect机制 · Operation/Pattern · Pass管理

自定义Dialect · Lowering Pass · LLVM后端集成

16XLA与JIT编译

XLA架构 · JIT原理 · 动态Shape处理

17Glow框架分析

Glow架构 · 图优化 · 低精度后端

18TFLite Delegation

Delegate机制 · 自定义Delegate · GPU/NPU加速

19NCNN框架实战

NCNN架构 · 模型转换 · ARM NEON优化

20MNN框架实战

MNN架构 · 算子优化 · 多后端支持

21Paddle Lite框架

架构 · 模型压缩 · 硬件适配

22OpenCL与GPU加速

OpenCL基础 · GPU内存模型 · Kernel优化

23Vulkan与GPU计算

Compute Shader · Buffer管理 · Pipeline

24Hexagon DSP开发

Hexagon架构 · SDK使用 · HVX向量指令

25NPU驱动与编译器

硬件抽象层 · 指令集生成 · 内存管理

26端侧模型部署流程

转换 · 编译 · 量化 · 打包 · OTA升级

27性能Profiling与调优

Profiling工具 · 瓶颈分析 · 算子耗时优化

28编译器测试与验证

正确性测试 · 性能回归 · 模糊测试

29端侧AI编译器前沿

Sparse Compiler · Pruning · AutoML集成

从零构建微型AI编译器 · ONNX→ARM Cortex-M7