01
边缘计算与AI芯片概览
边缘计算定义 · 为什么需要边缘AI · 主流AI芯片对比 (Jetson, Coral, Movidius, 昇腾)
概念选型
02
开发环境搭建
JetPack SDK · 交叉编译工具链 · SSH远程开发 · Hello World验证
环境工具链
03
AI芯片架构基础
CPU/GPU/NPU/DSP协同 · 内存带宽 · 算力指标 TOPS/FLOPS
硬件原理
04
模型量化原理
FP32/FP16/INT8/INT4 · 对称/非对称量化 · 量化误差缓解
量化精度
05
模型剪枝与蒸馏
结构化/非结构化剪枝 · 知识蒸馏教师-学生 · 边缘收益分析
压缩蒸馏
06
ONNX模型转换
PyTorch/TF导出ONNX · 算子兼容性 · ONNX Runtime推理
ONNX互转
07
TensorRT加速
安装配置 · Builder · 层融合/内核调优 · 动态形状
TensorRT优化
08
NVIDIA Jetson实战
Nano/Orin规格 · JetPack组件 · tegrastats监控功耗
Jetson监控
09
Google Coral Edge TPU实战
Edge TPU架构 · edgetpu_compiler · PyCoral API推理
CoralTPU
10
Intel OpenVINO实战
工具套件安装 · Model Optimizer · Inference Engine · NUC部署
OpenVINOIntel
11
华为昇腾CANN实战
昇腾310/910 · CANN软件栈 · atc转换 · 推理应用
昇腾CANN
12
模型部署框架对比
TFLite · ONNX Runtime · OpenVINO · TensorRT · NCNN · MNN 选型
框架选型
13
边缘端数据预处理
图像缩放/归一化硬件加速 · 硬件编解码 · 数据Pipeline
预处理流水线
14
多模型流水线
串行/并行推理 · 数据传递优化 · DeepStream视频分析
流水线DeepStream
15
模型服务化
Triton Inference Server · 动态批处理 · 模型版本管理
服务化Triton
16
边缘端模型更新
OTA升级 · 模型热加载 · A/B测试框架
OTA热加载
17
性能分析与调优
Nsight/VTune · 计算/内存瓶颈 · 算子替换优化
Profiling调优
18
功耗与散热管理
DVFS · 功耗墙 · 被动/主动散热方案
功耗散热
19
安全与隐私
模型加密(TEE) · 数据脱敏 · 对抗样本防御
安全隐私
20
边缘端模型监控
Prometheus+Grafana · 延迟/吞吐监控 · 异常告警
监控告警
21
实战项目一：人脸检测与识别
MTCNN/RetinaFace+FaceNet · 量化部署 · 延迟优化
人脸实战
22
实战项目二：工业缺陷检测
YOLOv5/v8 · 数据增强+蒸馏 · Jetson实时检测
缺陷检测YOLO
23
实战项目三：智能语音助手
Whisper/DeepSpeech · 流式推理 · 唤醒词+命令识别
语音流式
24
实战项目四：边缘端大语言模型
LLaMA/Phi-3-mini · 4-bit量化(GPTQ/AWQ) · KV-Cache优化
LLM量化
25
实战项目五：多模态模型
CLIP/LLaVA · 图像+文本联合推理 · Orin性能调优
多模态CLIP
26
实战项目六：视频行为识别
SlowFast/VideoMAE · 光流优化 · 多路视频流处理
行为识别视频
27
边缘集群管理
K3s管理边缘节点 · 容器化部署 · 资源调度与伸缩
K3s集群
28
边缘与云端协同
混合推理 · 云端训练边缘推理 · 数据回传再训练
云边协同架构
29
边缘AI的未来趋势
存算一体 · 神经形态 · RISC-V加速器 · 联邦学习
前沿趋势
30
综合大作业：端到端边缘AI系统
需求分析 · 模型选型 · 量化部署 · 调优监控 · 交付文档
大作业综合