⚡ 边缘AI · 功耗与性能

📘 30章 从入门到实战 · 调优全链路
🎯 2025 春季课程
01
边缘AI概述 场景
什么是边缘AI、边缘AI vs 云端AI、典型应用场景（智能家居、工业视觉、可穿戴设备）。
02
硬件平台选型 芯片
主流边缘AI芯片对比（STM32N6、ESP32-S3、Jetson Orin、RK3588）、算力与功耗权衡。
03
功耗基础概念 DVFS
动态功耗与静态功耗、电压与频率的关系（DVFS）、热设计功耗（TDP）。
04
功耗测量工具 仪表
使用Joulescope、INA219、Power Profiler Kit进行实时功耗测量。
05
性能基准测试 MLPerf
MLPerf Tiny、TinyML Benchmark、自定义基准测试脚本。
06
模型量化基础 INT8
FP32 vs INT8 vs INT4、量化感知训练（QAT）、后训练量化（PTQ）。
07
模型剪枝技术 结构化
结构化剪枝、非结构化剪枝、剪枝后的微调策略。
08
知识蒸馏 教师-学生
教师-学生模型架构、蒸馏温度调节、在边缘设备上的部署。
09
轻量化网络设计 MobileNet
MobileNet、EfficientNet-Lite、TinyML专用架构（MCUNet）。
10
推理框架优化 TFLite
TensorFlow Lite Micro、ONNX Runtime、Tengine、NCNN的功耗对比。
11
算子优化 Winograd
卷积算子加速（Winograd、FFT）、内存访问模式优化、算子融合。
12
内存管理 SRAM/Flash
SRAM vs Flash、内存池设计、DMA传输优化、缓存命中率提升。
13
调度策略 RTOS
任务优先级管理、RTOS功耗管理（FreeRTOS Tickless模式）、Linux cpuidle。
14
DVFS实战 cpufreq
动态电压频率调节策略、Linux cpufreq调控器（performance、powersave、ondemand）。
15
睡眠模式 深度睡眠
深度睡眠、待机模式、唤醒源配置、RTC定时唤醒。
16
传感器功耗管理 FIFO
传感器数据采样率优化、FIFO缓冲、中断驱动采集。
17
无线通信功耗 BLE/LoRa
Wi-Fi、BLE、LoRa、NB-IoT的功耗对比、数据包聚合策略。
18
电池续航估算 续航模型
电池容量与放电曲线、平均功耗计算、续航模型建立。
19
功耗Profiling工具 perf
使用perf、powertop、Tegrastats进行功耗热点分析。
20
性能Profiling工具 gprof
使用gprof、Valgrind、Arm MAP分析计算瓶颈。
21
流水线优化 双缓冲
数据预处理与推理并行、双缓冲技术、异步推理。
22
批处理优化 动态批处理
动态批处理、微批处理、批处理对延迟和功耗的影响。
23
稀疏计算 稀疏卷积
稀疏矩阵表示、稀疏卷积加速、硬件稀疏支持（NVIDIA Sparse Tensor Core）。
24
编译器优化 TVM
TVM、XLA、Glow的自动调优、算子库选择（CMSIS-NN、ARM Compute Library）。
25
多核异构计算 CPU+NPU
CPU+NPU+GPU协同、任务分配策略、功耗均衡。
26
实时功耗监控 PMU
基于PMU的功耗遥测、日志分析、异常检测。
27
案例1：智能门锁 500→80mW
人脸识别功耗优化（从500mW降到80mW）。
28
案例2：工业缺陷检测 YOLO
YOLO模型在RK3588上的性能调优。
29
案例3：可穿戴心率 12h→72h
连续监测续航从12小时提升到72小时。
30
总结与展望 自适应
边缘AI功耗优化趋势、自适应功耗管理、未来硬件方向。
📢 :
📱 微信 deep3321