PyTorch如何驱动AI芯片产业发展
📚 共计 30 章节
01
AI芯片产业全景
从通用计算到专用加速的必然趋势，PyTorch在其中的桥梁作用。
产业
趋势
02
PyTorch与硬件抽象层
Tensor、算子与硬件指令集的映射关系。
硬件
映射
03
CUDA与PyTorch
GPU加速背后的秘密，CUDA Stream与异步执行。
GPU
异步
04
算子融合技术
如何通过PyTorch JIT将多个小算子合并，减少芯片访存开销。
JIT
访存
05
量化感知训练
PyTorch的torch.quantization如何让芯片跑得更快、更省电。
量化
省电
06
剪枝与稀疏化
PyTorch模型剪枝如何适配稀疏计算芯片架构。
剪枝
稀疏
07
动态图与静态图
PyTorch eager mode与torch.compile对芯片编译器的启发。
编译器
图模式
08
TorchScript与ONNX
模型中间表示如何成为芯片生态的“通用语言”。
中间表示
互操作
09
PyTorch与NPU适配
昇腾、寒武纪等国产芯片的PyTorch后端移植案例。
NPU
国产芯片
10
TensorRT与PyTorch
NVIDIA的推理优化引擎如何反哺芯片设计。
推理
优化
11
自动混合精度
AMP如何利用FP16/INT8硬件单元，提升芯片吞吐量。
AMP
吞吐
12
分布式训练与互联
PyTorch DDP/RPC如何推动芯片互联总线技术演进。
分布式
互联
13
内存管理与显存优化
PyTorch显存分配策略对芯片HBM设计的启示。
显存
HBM
14
自定义算子开发
如何用C++/CUDA扩展PyTorch，驱动芯片定制指令集。
自定义
指令集
15
PyTorch Profiler
性能分析工具如何指导芯片微架构优化。
Profiler
微架构
16
数据加载与预处理
PyTorch DataLoader如何影响芯片的I/O带宽设计。
I/O
DataLoader
17
模型并行与流水线并行
PyTorch并行策略如何适配多核芯片拓扑。
并行
多核
18
PyTorch在自动驾驶芯片中的应用
从Orin到Thor的软件栈演进。
自动驾驶
Orin
19
PyTorch在云端推理芯片中的应用
阿里平头哥、AWS Inferentia案例。
云端
推理
20
PyTorch在边缘AI芯片中的应用
MCU级TinyML与PyTorch Mobile。
边缘
TinyML
21
芯片仿真与PyTorch
如何使用PyTorch模拟芯片行为，加速硬件验证。
仿真
验证
22
PyTorch与存算一体架构
软件定义硬件的新范式。
存算一体
新范式
23
PyTorch与光计算芯片
光学神经网络的前沿探索。
光计算
前沿
24
芯片编译器TVM与PyTorch
从图优化到代码生成的完整链路。
TVM
编译器
25
PyTorch与RISC-V向量扩展
开源指令集如何拥抱AI框架。
RISC-V
向量
26
芯片基准测试
用PyTorch构建MLPerf测试套件，衡量芯片真实性能。
MLPerf
基准
27
PyTorch与芯片安全
侧信道攻击防御与可信执行环境。
安全
TEE
28
PyTorch 2.0与下一代芯片
torch.compile、动态shape对芯片设计的挑战。
2.0
动态shape
29
开源芯片生态
PyTorch如何推动芯片设计工具链的开源化。
开源
工具链
30
未来展望
PyTorch与AI芯片的协同进化路线图。
路线图
协同