嵌入式系统简介
AI模型挑战
STM32N6
RK3588 / Jetson Orin
什么是量化
对称/非对称
数学原理
精度与性能权衡
TensorRT INT8
ONNX Runtime量化
模型验证
Conv/ReLU/Gemm
内存访问模式
计算瓶颈识别
ARM NEON简介
向量化编程
加速卷积
内联汇编
内存池设计
缓存友好数据结构
DMA传输
带宽瓶颈
TensorRT Lite
ONNX Runtime
TFLite Micro
NCNN对比
模型解析与构建
动态形状
INT8校准器
多流推理
ONNX模型导出
会话配置
执行提供者
CPU/CUDA/TensorRT
模型转换工具链
Vulkan加速
ARM优化
多线程推理
TVM框架
AutoTVM
Ansor调度器
Relay IR融合
XLA编译原理
JIT推理应用
算子融合
常量折叠
OpenCL基础
工作项与工作组
内存模型
GPU算子
ONNX/TensorRT/TFLite
CoreML互转
自定义格式
NVIDIA Nsight
ARM Streamline
Perf工具
火焰图
Android NNAPI
iOS CoreML
RTOS部署
裸机方案
智能摄像头检测
语音唤醒
工业异常检测
可穿戴设备
DVFS调优
推理任务调度
休眠唤醒
功耗-性能平衡