边缘计算资源受限下的算法优化实战

📚 共计 30 章节

边缘计算概述

定义、核心特征、与云计算的对比、典型应用场景（工业物联网、自动驾驶、智慧城市）

资源受限的本质

计算资源(CPU/GPU/TPU)、内存(SRAM/DRAM)、存储(Flash/eMMC)、网络带宽与延迟约束

算法复杂度分析基础

大O表示法、时间复杂度、空间复杂度、在边缘设备上的实际意义

轻量化模型设计原则

模型剪枝(结构化/非结构化)、权重量化(INT8/FP16)、知识蒸馏的基本原理

剪枝量化蒸馏

模型剪枝实战

基于PyTorch的通道剪枝、权重剪枝、Fine-tuning策略与效果评估

模型量化实战

Post-Training Quantization (PTQ)、Quantization-Aware Training (QAT)、校准数据集选择

知识蒸馏实战

教师-学生网络架构、软标签与温度系数、蒸馏损失函数设计

高效网络架构(一)

MobileNet系列(深度可分离卷积)、ShuffleNet(通道混洗)、EfficientNet(复合缩放)

高效网络架构(二)

SqueezeNet(Fire Module)、GhostNet(幽灵模块)、轻量Transformer(MobileViT)

模块Transformer

边缘推理框架(一)

TensorFlow Lite (TFLite) 模型转换、Delegate(GPU/NNAPI)加速、Benchmark工具

边缘推理框架(二)

ONNX Runtime跨平台部署、OpenVINO(Intel)、TensorRT(NVIDIA)优化策略

边缘推理框架(三)

NCNN(腾讯)、MNN(阿里)、TNN(字节跳动)的选型与对比

算子优化基础

循环展开、循环分块(Tiling)、向量化(SIMD)、内存对齐与缓存友好访问

卷积算子优化

Im2Col+GEMM、Winograd算法、FFT卷积的原理与适用场景

内存优化策略

内存池设计、In-Place操作、张量复用、减少内存碎片

计算图优化

算子融合(Conv+BN+ReLU)、常量折叠、死代码消除、图分割

图优化融合

异步与流水线

异步推理、双缓冲机制(Double Buffering)、多线程任务流水线设计

异步流水线

数据预处理优化

图像解码加速(JPEG/TurboJPEG)、Resize/归一化融合、数据加载Pipeline

预处理Pipeline

RTOS下的算法部署

FreeRTOS任务调度、内存管理、中断与算法协同

嵌入式Linux优化

Cgroups资源限制、CPU亲和性设置、实时内核补丁(PREEMPT_RT)

硬件加速器利用

GPU(CUDA/OpenCL)、NPU(算能/地平线/寒武纪)、FPGA(HLS)编程模型

DVFS(动态电压频率调整)、Idle状态管理、算法精度与功耗的Trade-off

数据压缩(Zstd/LZ4)、梯度压缩(稀疏化/量化)、异步联邦学习通信

边缘-云协同

端侧预处理+云侧大模型、模型分片(Split Learning)、在线学习与模型更新

安全与隐私

TEE(可信执行环境)、差分隐私、同态加密在边缘的轻量级实现

基准测试与Profiling

Perf/Linux Perf、Arm MAP、自定义Profiler设计、性能瓶颈定位

案例实战(一)

在树莓派4B上部署轻量化YOLOv5进行实时目标检测

树莓派YOLOv5

案例实战(二)

在Jetson Nano上使用TensorRT优化ResNet-18图像分类

案例实战(三)

在ESP32-S3上部署TinyML语音唤醒词模型(Keyword Spotting)

课程总结与未来趋势

RISC-V架构、存算一体、近传感计算、AIoT的未来演进