01
AI编译器概述
什么是AI编译器 · 与传统编译器区别 · 在AI基础设施中的位置
基础概念
02
AI编译器核心概念
计算图 · 中间表示(IR) · 算子 · 张量 · 数据流图
核心IR
03
AI编译器前端技术
模型解析 · 图优化 · 算子融合 · 常量折叠 · 死代码消除
前端优化
04
AI编译器后端技术
内存分配 · 代码生成 · 指令调度 · 循环优化 · 张量布局转换
后端代码生成
05
主流AI编译器对比
TVM · XLA · Glow · MLIR · Triton · TensorRT · OpenVINO
对比生态
06
TVM架构详解
Relay IR · AutoTVM · AutoScheduler · VTA · 端侧部署
TVM自动调优
07
MLIR与多级IR
Dialect机制 · Pass Pipeline · 类型系统 · 在AI编译器中的应用
MLIR多级IR
08
XLA与JIT编译
HLO IR · AOT编译 · 动态shape处理 · TF/PyTorch中使用
XLAJIT
09
Triton语言与编译器
Triton编程模型 · 块级编程 · 编译器后端 · 与CUDA对比
TritonGPU
10
TensorRT与推理优化
层融合 · 精度校准(INT8/FP16) · 动态shape · 插件机制
TensorRT推理
11
OpenVINO与边缘部署
模型优化器 · 推理引擎 · 异构执行 · 支持硬件
OpenVINO边缘
12
AI编译器中的自动调优
基于机器学习的调优 · 贝叶斯优化 · 遗传算法 · 成本模型
自动调优ML
13
算子融合技术
水平融合 · 垂直融合 · 跨算子融合 · 融合策略选择
融合优化
14
内存优化技术
内存复用 · 内存规划 · 张量生命周期分析 · 交换与重计算
内存优化
15
量化编译技术
训练后量化(PTQ) · 量化感知训练(QAT) · 混合精度 · 量化Pass
量化INT8
16
稀疏化编译技术
结构化稀疏 · 非结构化稀疏 · 剪枝编译 · 稀疏张量内核
稀疏剪枝
17
动态shape编译
符号shape · 动态shape推理 · bucketing技术 · 重编译策略
动态shape
18
多硬件后端支持
CUDA/ROCm后端 · CPU后端 · NPU后端 · WebGPU后端
多后端硬件
19
AI编译器与分布式训练
自动并行 · 张量并行 · 流水线并行 · 数据并行编译
分布式并行
20
AI编译器调试与性能分析
Profiling工具 · 性能计数器 · 编译日志 · 可视化工具
调试性能
21
AI编译器安全与可信
模型加密 · 编译时验证 · 侧信道防护 · 安全编译选项
安全可信
22
AI编译器在自动驾驶中的应用
端到端编译 · 延迟约束 · 多模型调度 · 安全认证
自动驾驶应用
23
AI编译器在推荐系统中的应用
大规模稀疏模型编译 · Embedding优化 · 特征工程编译
推荐系统稀疏
24
AI编译器在NLP大模型中的应用
Transformer编译优化 · KV Cache优化 · FlashAttention编译
NLP大模型
25
AI编译器在CV模型中的应用
卷积优化 · 检测头编译 · 多尺度特征编译
CV卷积
26
AI编译器产业格局
科技巨头布局 · 创业公司生态 · 开源社区 · 标准组织
产业格局
27
AI编译器技术趋势
可微分编程编译 · 神经符号编译 · 量子AI编译 · 编译器即服务
趋势前沿
28
AI编译器开发实践
从零构建一个简单AI编译器 · Pass开发 · 测试框架
实践开发
29
AI编译器性能基准测试
MLPerf · TBD(待定) · 自定义benchmark · 对比分析方法
基准性能
30
AI编译器未来展望
通用AI编译器 · 硬件-软件协同设计 · AI for Compiler · 编译器2.0
未来展望