第1章
AI芯片概述
定义、发展历程、分类 (GPU/FPGA/ASIC/NPU) 及典型产品 (NVIDIA Tesla, Google TPU, 华为昇腾)
基础芯片分类
第2章
并行计算基础
并行概念 · Flynn分类法 (SISD/SIMD/MISD/MIMD) · 数据并行/任务并行/流水线并行
并行模型Flynn
第3章
多核架构入门
同构/异构 · 缓存一致性 (MESI) · 内存模型 (UMA/NUMA)
架构缓存
第4章
AI芯片核心组件
MAC阵列 · 存储层次 (SRAM/HBM) · 互联总线 (NoC/PCIe)
硬件存储
第5章
AI芯片编程模型
CUDA · OpenCL · 华为昇腾CANN编程模型
编程CANN
第6章
数据并行实战
数据并行原理 · 同步/异步SGD · AllReduce (Ring / Tree)
分布式SGD
第7章
模型并行实战
模型并行原理 · 层内/层间并行 · Pipeline Parallelism · 1F1B调度
模型并行调度
第8章
流水线并行实战
GPipe · PipeDream · 微批次调度 · 负载均衡
流水线GPipe
第9章
张量并行实战
张量并行原理 · Megatron-LM · 列并行/行并行/头并行
张量Megatron
第10章
混合并行策略
3D并行 (数据+模型+流水线) · ZeRO优化器 · FSDP
混合并行ZeRO
第11章
AI芯片内存优化
显存复用 · 梯度累积 · 激活值重计算 · 混合精度 (FP16/BF16/INT8)
内存混合精度
第12章
AI芯片计算优化
算子融合 · 循环展开 · 向量化
计算算子融合
第13章
AI芯片通信优化
通信计算重叠 · 梯度压缩 · 异步通信
通信重叠
第14章
AI芯片编译优化
TVM · XLA · 昇腾CANN编译器 · 图优化
编译TVM
第15章
AI芯片性能分析
Profiling (Nsight, MindStudio) · 性能瓶颈 · Roofline模型
性能Roofline
第16章
AI芯片功耗优化
DVFS · 时钟门控 · 电源门控
功耗DVFS
第17章
AI芯片可靠性设计
ECC纠错 · 冗余设计 · 故障恢复 · RAS
可靠性ECC
第18章
AI芯片安全设计
侧信道防御 · 可信执行环境 (TEE) · 模型加密
安全TEE
第19章
AI芯片仿真与验证
功能/性能/功耗仿真 · FPGA原型验证
仿真FPGA
第20章
AI芯片测试与调试
ATE测试 · JTAG · 片上调试 (OCD) · 日志分析
测试JTAG
第21章
AI芯片部署与推理
模型量化 (PTQ/QAT) · 剪枝 · 知识蒸馏
部署量化
第22章
AI芯片边缘计算
边缘芯片 (Jetson, K210, RK3588) · 模型压缩 · TensorRT Lite / MNN
边缘Jetson
第23章
AI芯片云计算
云端芯片 (A100, H100, 昇腾910) · 弹性训练 · Triton推理服务
云计算Triton
第24章
AI芯片自动驾驶
Orin · 征程5 · 多传感器融合 · 实时性
自动驾驶Orin
第25章
AI芯片医疗影像
Intel Arria · 华为昇腾 · 医学图像分割 · DICOM
医疗DICOM
第26章
AI芯片金融风控
Xilinx Alveo · A100 · 实时风控 · 高频交易
金融风控
第27章
AI芯片自然语言处理
GPT / BERT · Transformer加速 · 稀疏注意力
NLPTransformer
第28章
AI芯片计算机视觉
ViT / ResNet · 卷积加速 · Winograd算法
CVWinograd
第29章
AI芯片未来趋势
存算一体 · 光计算 · 量子计算
前沿存算一体
第30章
AI芯片综合实战
基于昇腾CANN实现ResNet-50多卡训练、性能调优、部署推理
综合CANN