01
边缘AI芯片概述
定义、市场驱动、与云端芯片对比、典型应用场景(智能家居、工业视觉、可穿戴)
概念市场场景
02
实时推理的挑战
延迟约束、吞吐量要求、模型复杂度与硬件资源的矛盾
延迟吞吐量矛盾
03
功耗基础
动态功耗与静态功耗、电压与频率关系(P = CV²f)、热设计功耗(TDP)
动态静态TDP
04
功耗管理技术概览
DVFS、时钟门控、电源门控、近阈值计算
DVFS门控NTC
05
硬件架构基础
冯诺依曼与哈佛架构、存算一体(IMC)简介、数据流架构
架构存算一体数据流
06
神经网络加速器核心
乘累加(MAC)阵列、脉动阵列(Systolic Array)、Winograd算法
MAC脉动阵列Winograd
07
量化技术
INT8/INT4量化原理、PTQ与QAT、量化对精度与功耗的影响
INT8PTQQAT
08
模型剪枝
结构化与非结构化剪枝、剪枝后硬件加速、稀疏计算
结构化稀疏加速
09
知识蒸馏
教师-学生模型、软标签与硬标签、蒸馏在边缘端的部署优势
蒸馏软标签部署
10
轻量化模型设计
MobileNet、ShuffleNet、EfficientNet-Lite、GhostNet
MobileNetShuffleNetEfficientNet
11
动态电压频率调整(DVFS)
原理、片上传感器、Linux内核CPUFreq框架、实时调度策略
DVFSCPUFreq调度
12
时钟门控与电源门控
RTL级实现、UPF(统一功耗格式)、电源域划分
时钟门控UPF电源域
13
近阈值计算(NTC)
原理、挑战(PVT变化)、自适应体偏置(ABB)
NTCPVTABB
14
近似计算
近似加法器/乘法器、精度可重构、在图像处理中的应用
近似可重构图像
15
内存层次优化
缓存一致性、DMA传输、Tiling技术、数据复用
缓存DMATiling
16
稀疏计算引擎
非零值编码、跳跃逻辑、稀疏Tensor Core
稀疏编码Tensor Core
17
运行时功耗管理
功耗感知调度、任务迁移、异构计算(CPU+GPU+NPU)
调度异构迁移
18
实时操作系统(RTOS)与功耗
FreeRTOS功耗管理、Tickless模式、任务优先级与睡眠
FreeRTOSTickless睡眠
19
功耗建模与仿真
McPAT、CACTI、Gem5 + Garnet、功耗曲线拟合
McPATCACTIGem5
20
片上功耗监测
电流传感器、环形振荡器、数字功耗监测器(DPM)
传感器DPM监测
21
自适应推理
输入自适应(Early Exit)、分辨率自适应、模型选择策略
Early Exit自适应策略
22
多模型流水线
模型并行、流水线气泡、负载均衡
流水线并行负载均衡
23
联邦学习与边缘功耗
本地训练功耗、通信压缩、差分隐私
联邦压缩隐私
24
硬件-软件协同设计
HLS(高层次综合)、定制指令集、RISC-V扩展
HLSRISC-V协同
25
案例研究:Google Edge TPU
架构、功耗表现、开发流程
Edge TPUGoogle案例
26
案例研究:NVIDIA Jetson
功耗模式、Max-Q技术、DeepStream SDK
JetsonMax-QDeepStream
27
案例研究:STM32Cube.AI
MCU级部署、功耗优化、STM32N6
STM32MCUCube.AI
28
基准测试与评估
MLPerf Tiny、EEMBC MLMark、功耗延迟积(EDP)
MLPerfMLMarkEDP
29
未来趋势
存内计算(CIM)商业化、光子计算、可重构AI芯片
CIM光子可重构
30
综合项目:低功耗实时人脸检测系统
从模型选择到硬件部署,端到端实战
项目人脸检测低功耗