NPU与CPU协同计算架构 · 课程目录

01NPU与CPU协同计算概述

异构计算概念NPU与CPU区别与联系协同应用场景

进入章节

02CPU架构基础

核心架构指令集流水线缓存层次

进入章节

03NPU架构基础

核心架构脉动阵列数据流片上存储

进入章节

04异构计算系统总线

PCIeCCIXCXLNVLink

进入章节

05内存一致性模型

CPU与NPU内存一致性缓存一致性协议共享内存模型

进入章节

06数据搬运与DMA

DMA控制器数据搬运策略异步传输零拷贝

进入章节

07任务调度框架

任务划分调度策略负载均衡优先级管理

进入章节

08编程模型与API

OpenCLCUDASYCLOneAPI

进入章节

09编译器与工具链

异构编译器自动并行化代码优化性能分析

进入章节

10NPU驱动开发

Linux内核驱动设备树中断处理内存管理

进入章节

11算子库与加速库

常用算子BLAS库卷积优化矩阵乘法加速

进入章节

12模型部署与推理

模型量化剪枝蒸馏ONNX/TensorRT

进入章节

13训练场景下的协同

数据并行模型并行流水线并行混合精度训练

进入章节

14实时系统与协同

实时操作系统硬实时约束确定性调度延迟优化

进入章节

15功耗管理

动态电压频率调整功耗感知调度热管理能效比优化

进入章节

16安全与隔离

可信执行环境内存隔离侧信道防护安全启动

进入章节

17虚拟化与多租户

GPU/NPU虚拟化SR-IOV容器化资源隔离

进入章节

18性能基准测试

Benchmark设计性能指标带宽/延迟/吞吐

进入章节

19调试与性能分析

性能剖析器火焰图跟踪工具断点/日志

进入章节

20边缘计算场景

边缘NPU端侧推理低功耗协同离线部署

进入章节

21云端协同场景

云边协同推理服务弹性伸缩负载预测

进入章节

22自动驾驶场景

多传感器融合实时感知路径规划NPU与CPU分工

进入章节

23机器人场景

SLAM运动控制视觉处理NPU加速

进入章节

24工业视觉场景

缺陷检测OCR定位测量高吞吐处理

进入章节

25大模型推理场景

Transformer加速KV缓存张量并行NPU集群

进入章节

26NPU与FPGA协同

异构加速可重构计算流水线设计接口适配

进入章节

27NPU与DSP协同

信号处理音频处理通信基带低功耗设计

进入章节

28未来架构趋势

存算一体近存计算光互连量子计算与NPU

进入章节

29开源生态与社区

OpenXLAMLIRTVMTriton开源NPU

进入章节

30综合项目实战

端到端协同系统设计性能调优部署与测试

进入章节