🧠 边缘AI · 内存&算力突破
📘 30章 实战目录
📁 点击卡片跳转章节
01.html ~ 30.html
⚡ 轻量化 · 量化 · 部署 · 芯片
01
边缘AI概述
什么是边缘AI
为什么需要边缘AI
边缘AI vs 云AI
典型应用场景
02
边缘硬件架构解析
CPU/GPU/NPU
DSP/FPGA差异
选型指南
03
内存瓶颈根源分析
SRAM/DRAM/Flash
层级结构
访问延迟
04
算力瓶颈根源分析
冯诺依曼瓶颈
内存墙
功耗墙
05
模型轻量化技术 (上)
结构化剪枝
非结构化剪枝
原理与实战
06
模型轻量化技术 (下)
知识蒸馏
低秩分解
量化感知训练
07
量化技术详解
INT8/INT4量化
校准数据集
量化误差分析
08
模型压缩工具链
TensorRT
ONNX Runtime
OpenVINO/TFLite
09
内存优化策略 (上)
内存池设计
内存复用
就地更新
10
内存优化策略 (下)
张量生命周期
显存碎片整理
虚拟内存映射
11
算子融合与图优化
算子融合原理
常量折叠
死代码消除
12
计算图调度优化
静态图 vs 动态图
算子并行
流水线调度
13
数据加载与预处理加速
DMA
双缓冲
预取机制
14
稀疏计算与加速
稀疏矩阵存储
稀疏卷积
硬件稀疏支持
15
Winograd与FFT卷积加速
算法原理
边缘设备适用性
16
模型部署与推理框架
MNN/NCNN/TNN
Paddle Lite对比
17
异构计算与任务分配
CPU+NPU协同
负载均衡策略
18
实时操作系统与调度
FreeRTOS/Zephyr
AI内存管理
19
缓存优化与数据局部性
Cache命中率
数据重排
循环分块
20
汇编级与指令集优化
NEON指令集
SIMD
内联汇编实战
21
模型结构搜索与硬件感知
MobileNet/ShuffleNet
EfficientNet-Lite
22
注意力机制轻量化
FlashAttention
线性注意力
稀疏注意力
23
Transformer在边缘的部署
边缘BERT/TinyBERT
EdgeFormer
24
多模态模型边缘部署
视觉+语音+传感器
联合推理内存共享
25
联邦学习与边缘协同
本地训练
梯度压缩
差分隐私
26
功耗管理与动态调频
DVFS
功耗感知调度
任务休眠唤醒
27
边缘AI基准测试与Profiling
Perf/GProf
NVIDIA Nsight
自定义Profiler
28
端侧芯片选型实战
瑞芯微RK3588
算能BM1684
地平线征程5/树莓派CM4
29
综合案例 (上)
智能摄像头目标检测
模型压缩到部署
30
综合案例 (下)
语音唤醒词识别
内存与算力联合优化