⚡ 多核异构推理
并行计算 · 实战
📘 30章 完全目录
🧩
异构 · CPU · GPU · NPU · FPGA
🚀
从基础到前沿 · 点击卡片跳转章节
1
异构计算概述
什么是异构计算
为什么需要异构
发展历程与趋势
2
核心硬件架构解析
CPU
GPU
NPU
FPGA
架构对比
3
并行计算基础
Flynn分类法
数据并行与任务并行
同步与异步模型
4
内存层次与数据搬运
异构内存拓扑
Cache一致性
DMA与数据搬运
5
编程模型与框架
CUDA
OpenCL
SYCL
oneAPI
异同与选型
6
模型推理基础
推理流程
算子与计算图
精度与性能权衡
7
算子优化策略
算子融合
内存布局 NHWC/NCHW
循环展开与向量化
8
模型量化技术
INT8/INT4量化
量化感知训练
动态/静态量化
9
模型剪枝与蒸馏
结构化剪枝
非结构化剪枝
知识蒸馏
10
多核CPU推理优化
OpenMP多线程
SIMD指令集
NUMA感知调度
11
GPU推理加速
Tensor Core
CUDA Graph
MPS与MIG
12
NPU推理部署
NPU硬件特性
算子映射与适配
内存带宽优化
13
FPGA推理实现
HLS开发流程
流水线设计
定点数计算
14
异构任务调度
静态/动态调度
任务依赖图
负载均衡
15
数据流与流水线并行
数据预处理流水线
推理流水线
异步数据加载
16
模型并行与张量并行
模型切分策略
通信开销分析
流水线气泡
17
通信库与集合通信
NCCL
RCCL
MPI
原理与场景
18
推理引擎介绍
TensorRT
OpenVINO
ONNX Runtime
架构特性
19
TensorRT实战
模型转换
动态shape
INT8校准
多流推理
20
OpenVINO实战
模型优化
异构执行
设备插件机制
21
ONNX Runtime实战
自定义算子
执行提供者
内存优化
22
端侧推理方案
TFLite
NCNN
MNN
选型与优化
23
服务端推理方案
Triton Inference Server
TorchServe
部署与扩展
24
性能分析与Profiling
NVIDIA Nsight
Intel VTune
Perf工具
25
性能调优方法论
瓶颈定位
Amdahl定律
Roofline模型
26
大语言模型异构加速
LLM推理
异构加速方案
案例实战
27
计算机视觉边缘部署
CV模型
边缘设备
异构部署
28
推荐系统混合推理
推荐模型
CPU+GPU集群
混合推理
29
前沿技术探索
Chiplet异构集成
存算一体
光计算
30
课程总结与展望
异构计算未来趋势
学习路径
资源推荐