NPU与CPU异构计算实战 · 课程目录

01 异构计算概述

异构计算定义 NPU vs CPU 为什么需要异构典型场景

02 NPU架构基础

MAC阵列缓存/控制器数据流架构指令集特点

03 CPU架构基础

流水线/缓存分支预测 x86 vs ARM CPU任务类型

04 开发环境搭建

RK3588/BM1684 交叉编译链 SDK部署

05 模型转换与量化

ONNX导出 RKNN/BMNNSDK INT8/FP16量化

06 NPU推理引擎

驱动加载内存分配映射同步/异步模式

07 CPU预处理流水线

OpenCV解码归一化/NHWC 多线程加速

08 CPU后处理逻辑

NMS目标检测分类解析语义分割可视化

09 异构同步机制

同步点设计双缓冲环形缓冲区避免死锁

10 内存管理策略

物理连续内存 ION/DMA-BUF Cache一致性内存池

11 性能分析工具

NPU Profiler CPU Perf 延迟分解瓶颈定位

12 图像分类实战

ResNet-50 预处理-推理-后处理吞吐量优化

13 目标检测实战

YOLOv5s Anchor解码/NPS 多尺度推理

14 语义分割实战

DeepLabV3 上采样/argmax 颜色映射

15 视频流处理实战

RTSP拉流帧队列/跳帧 NPU多模型并发

16 多NPU协同

设备枚举任务分发/负载均衡结果合并

17 CPU与NPU任务调度

线程池任务优先级动态负载感知功耗优化

18 模型分片部署

大模型切分部分NPU/CPU回退混合精度

19 自定义算子开发

NPU自定义算子接口 CPU回退算子算子注册调用

20 调试与日志

NPU日志等级 CPU错误捕获断点调试错误码解析

21 安全与隔离

cgroup资源隔离内存保护多进程安全共享异常恢复

22 功耗与散热

NPU DVFS调优 CPU频率锁定温控策略功耗测量

23 边缘部署

模型加密 OTA升级看门狗离线运行

24 云端异构

NPU虚拟化 gRPC远程推理 CPU预处理/弹性伸缩

25 自动驾驶场景

多传感器融合 NPU视觉/CPU雷达实时性保障

26 工业质检场景

高分辨率图像 NPU缺陷检测 CPU逻辑判断/数据回传

27 智能安防场景

人脸检测+识别 NPU级联推理 CPU跟踪/告警

28 性能优化进阶

算子融合内存复用异步DMA/计算传输重叠

29 常见问题排查

模型加载失败推理结果错误性能不达标/崩溃

30 未来趋势

存算一体 NPU/CPU融合 RISC-V扩展异构标准化

⚡ 点击章节标题跳转至对应课程文件 (01.html ~ 30.html)