边缘场景AI芯片部署全流程实战

📚 共计 30 章节

边缘AI芯片概述

什么是边缘AI芯片 · 边缘计算与云计算区别 · 主流厂商与产品 · 典型应用场景

NVIDIA JetsonGoogle Coral华为昇腾

部署环境搭建

交叉编译工具链 · 系统烧录 · SSH/串口配置 · 文件传输与远程调试

SDK固件远程调试

模型选型与优化

MobileNet/YOLO-Lite/TinyML · 量化INT8/FP16 · 剪枝蒸馏 · ONNX转换

模型量化剪枝ONNX

推理引擎与SDK

TensorRT · OpenVINO · NCNN/TNN/MNN · API调用示例

TensorRTOpenVINO国产引擎

模型编译与部署

Graph Optimization · Memory Planning · 序列化加载 · 多线程/异步推理 · Pipeline

编译优化异步推理Pipeline

硬件加速与算子适配

NPU/DSP/GPU加速 · 算子兼容性 · 自定义算子(C++/CUDA) · DMA优化

性能调优与Profiling

perf/nvprof/armnn-tools · 延迟与吞吐量优化 · 负载均衡 · 功耗散热

Profiling调优功耗管理

多模型级联与异构计算

串行/并行部署 · CPU+NPU+GPU · 任务调度 · 共享内存与零拷贝

异构计算零拷贝任务调度

数据流水线工程化

FFmpeg/GStreamer · 图像预处理加速 · 多路并发 · 数据增强与缓存

视频流预处理并发

模型更新与OTA

OTA架构 · 差分更新 · AB分区与回滚 · 签名与加密

OTAAB分区安全

边缘场景精度验证

离线/在线评测 · 数据漂移检测 · A/B测试 · Bad Case分析

精度A/B测试漂移检测

日志与监控系统

日志分级轮转 · 性能指标采集 · 告警阈值 · 远程Dashboard

监控FPSDashboard

安全与隐私保护

模型加密混淆 · TEE部署 · 数据脱敏 · 对抗攻击防御

TEE加密隐私

端侧推理框架深度实践

TFLite Micro · PyTorch Mobile · Paddle Lite · 算子支持与限制

TFLitePyTorch MobilePaddle Lite

FreeRTOS/AliOS Things · 裸机推理 · 中断与DMA · 资源受限优化

RTOSFreeRTOSAliOS

智能安防场景实战

人脸检测+识别+活体 · IPC接入RTSP · 结构化数据上传存储

工业质检场景实战

缺陷检测(YOLOv5s/ResNet) · 高分辨率分块推理 · MES对接

缺陷检测YOLOv5sMES

自动驾驶辅助实战

车道线+目标检测+语义分割 · 多传感器融合 · 低延迟安全

自动驾驶多传感器低延迟

智慧零售场景实战

商品识别+客流统计+热力图 · 边缘与云端协同 · 离线缓存

商品识别客流离线

语音交互场景实战

唤醒词(KWS) · ASR轻量部署 · TTS边缘部署 · 麦克风阵列降噪

多模态AI场景实战

视觉+语音+文本多模态 · 特征对齐融合 · 端侧推理优化

多模态特征融合端侧

容器化与编排

Docker arm64 · Docker Compose · K3s · 边缘节点管理

DockerK3s编排

CI/CD与自动化测试

GitLab CI/Jenkins · 自动化编译打包 · 单元/集成测试 · HIL测试

CI/CDJenkinsHIL

边缘AI芯片选型对比

算力TOPS/GOPS · 功耗TDP · 内存带宽 · 生态与决策矩阵

选型TOPS决策矩阵

成本与功耗优化

1-bit网络/知识蒸馏 · DVFS · 休眠唤醒 · 电池供电优化

轻量化DVFS低功耗

联邦学习基础 · 边缘训练与聚合 · 差分隐私 · 通信效率

联邦学习隐私聚合

标准化与认证

MLPerf Edge · PSA/SE安全认证 · ONNX/OpenCL · 合规性

MLPerfPSA标准

存算一体 · 类脑计算 · RISC-V AI · 5G/6G融合

存算一体类脑RISC-V

全流程实战项目（一）

智能门禁 · 需求分析 · 模型选型量化 · 编译部署测试

实战门禁全流程

全流程实战项目（二）

性能调优与排查 · 常见错误 · 项目总结 · 课程回顾

调优总结经验