第1章
边缘AI概述
什么是边缘AI、边缘计算与云计算的区别、典型应用场景（智能家居、工业视觉、可穿戴设备）
概念场景
第2章
模型轻量化基础
为什么需要轻量化、核心指标（大小/计算量/速度/功耗）、轻量化与精度权衡
指标权衡
第3章
模型剪枝 (Pruning)
结构化/非结构化剪枝、细粒度与通道剪枝、微调策略、实战缩小4倍经验
剪枝微调
第4章
权重量化 (Quantization)
对称/非对称量化、PTQ与QAT、INT8/INT4实战、精度损失补救
量化INT8
第5章
知识蒸馏 (Knowledge Distillation)
教师-学生网络、软/硬标签、温度系数、边缘落地案例
蒸馏压缩
第6章
轻量化网络架构设计
MobileNet V1/V2/V3、ShuffleNet、EfficientNet-Lite、MobileViT、EdgeNeXt
架构CNNTransformer
第7章
模型压缩工具链
TFLite Converter、ONNX Runtime、OpenVINO、TensorRT、PyTorch Mobile
工具转换
第8章
端侧推理引擎 (上)
TFLite架构、Delegates (GPU/NPU/Hexagon)、模型转换与优化
TFLite加速
第9章
端侧推理引擎 (下)
ONNX Runtime Mobile、NCNN、MNN、Paddle Lite、Tengine 对比
推理对比
第10章
硬件加速基础
CPU (NEON)、GPU (OpenCL/Vulkan)、NPU (寒武纪/地平线/瑞芯微)、DSP
硬件加速
第11章
ARM平台优化
NEON intrinsics、NHWC vs NCHW、算子融合、缓存友好设计
ARMNEON
第12章
GPU加速与OpenCL
OpenCL基础、内存管理、Kernel优化、树莓派踩坑记录
OpenCLGPU
第13章
NPU部署实战
瑞芯微RK3588、RKNN Toolkit、量化校准、性能调优
NPURK3588
第14章
模型格式转换与兼容性
ONNX中间格式、PyTorch→ONNX→TFLite、算子兼容、自定义算子
ONNX转换
第15章
端侧推理性能分析
Profiling (Perf/Simpleperf/TFLite Benchmark)、计算/内存瓶颈、算子耗时
性能分析
第16章
算子优化与融合
Conv+BN+ReLU融合、Depthwise优化、矩阵乘 (Strassen/Winograd)、稀疏计算
融合优化
第17章
内存优化策略
内存复用、In-Place、张量压缩、动态分配、降低60%内存实战
内存压缩
第18章
多线程与异步推理
线程池、流水线并行、异步框架、任务调度
多线程异步
第19章
模型部署全流程 (上)
训练到部署链路、模型导出验证、精度对齐、数据预处理优化
部署流程
第20章
模型部署全流程 (下)
A/B测试、热更新、日志监控、异常回滚
运维热更新
第21章
边缘AI安全
模型加密混淆、对抗防御、联邦学习、隐私推理
安全隐私
第22章
实时视频分析流水线
硬件解码、帧采样、多模型级联、跟踪检测协同
视频流水线
第23章
语音与音频模型轻量化
DeepSpeech/Whisper tiny压缩、唤醒词检测、音频特征优化
语音压缩
第24章
工业视觉案例
缺陷检测部署Jetson Nano、YOLOv5s→YOLOv8n、实时性优化
工业YOLO
第25章
智能家居案例
人脸识别门锁 (轻量FaceNet)、手势识别、传感器融合、低功耗
家居低功耗
第26章
可穿戴设备案例
心率/血氧监测、步态识别、模型<1MB、电池续航优化
可穿戴1MB
第27章
多模态边缘AI
视觉+语音融合、轻量多模态Transformer、特征对齐融合
多模态融合
第28章
边缘AI的挑战与趋势
持续学习、小样本、NAS轻量化、未来硬件趋势
趋势NAS
第29章
综合实战项目 (上)
智能安防摄像头——需求分析、模型选型、训练轻量化、精度验证
实战安防
第30章
综合实战项目 (下)
端侧部署、性能调优、系统集成、测试交付、项目复盘
交付复盘