01
AI框架与AI芯片概述
定义、发展历程、核心价值与产业生态
生态总览
02
AI框架核心组件
计算图、自动微分、算子库、运行时系统
计算图微分
03
AI芯片核心架构
通用芯片(CPU/GPU)与专用芯片(NPU/TPU/FPGA)对比
架构对比
04
计算图与芯片映射
静态图 vs 动态图,如何映射到硬件执行单元
静态图动态图
05
算子库与硬件适配
cuDNN、MKL-DNN、TensorRT等底层库的作用
算子库加速
06
内存管理与数据流
HBM、DDR、SRAM层级,数据搬运对性能的影响
存储带宽
07
并行计算模型
数据并行、模型并行、流水线并行在框架与芯片间的协同
并行分布式
08
编译器中间表示(IR)
TVM、MLIR、XLA如何桥接框架与芯片
编译器IR
09
自动调优与内核生成
Ansor、AutoTVM如何为特定芯片生成高效代码
自动调优代码生成
10
量化与压缩技术
INT8/INT4量化在框架中的实现与芯片指令集支持
量化INT8
11
稀疏计算与硬件加速
稀疏矩阵存储格式、硬件对稀疏性的利用
稀疏加速
12
异构计算架构
CPU+GPU+NPU协同,框架如何调度异构资源
异构调度
13
芯片驱动与运行时
CUDA Runtime、ROCm、OpenCL的角色
驱动运行时
14
框架后端适配流程
从Python算子到芯片指令的完整编译链路
编译后端
15
主流AI框架对比(一)
PyTorch的eager模式与TorchScript的芯片适配
PyTorchEager
16
主流AI框架对比(二)
TensorFlow静态图与TFLite移动端部署
TensorFlowTFLite
17
主流AI框架对比(三)
PaddlePaddle的芯片适配策略与生态
Paddle适配
18
主流AI框架对比(四)
MindSpore自动并行与昇腾芯片协同
MindSpore昇腾
19
芯片厂商的框架支持策略
NVIDIA CUDA生态、Google TPU的XLA、华为昇腾CANN
CUDACANN
20
边缘计算场景
TinyML框架与微控制器级芯片(MCU)的适配
边缘TinyML
21
训练与推理的芯片需求差异
训练芯片 vs 推理芯片的架构设计取舍
训练推理
22
芯片仿真与框架开发
QEMU、gem5等仿真器在框架开发中的用途
仿真QEMU
23
性能分析与Profiling
NVIDIA Nsight、PyTorch Profiler如何定位瓶颈
ProfilingNsight
24
框架与芯片的标准化趋势
ONNX、OpenXLA、MLIR标准化的意义
ONNXMLIR
25
开源芯片与框架协同
RISC-V生态与AI框架的适配现状
RISC-V开源
26
芯片内存墙问题
框架如何通过算子融合、内存复用缓解带宽瓶颈
内存墙算子融合
27
通信库与多芯片互联
NCCL、RCCL、Gloo在分布式训练中的作用
NCCL分布式
28
AI框架的未来演进
动态shape支持、可微分编程对芯片的新需求
动态shape可微分
29
AI芯片的未来演进
存算一体、光计算、量子计算对框架的挑战
存算一体量子
30
课程总结与实战建议
如何选择框架与芯片组合,学习路径推荐
总结学习路径