Fusion Compiler 算子融合底层原理
📚 30 章 · 融合全解析
v2.0
第01章
算子融合概述
什么是算子融合、为什么需要融合、Fusion Compiler 定位与价值
第02章
计算图基础
计算图的概念、节点与边、数据流图与控制流图
第03章
算子分类与特性
访存密集型 vs 计算密集型、逐元素/归约/卷积算子
第04章
融合策略总览
水平融合、垂直融合、混合融合、跨边界融合
第05章
访存优化原理
局部性原理、缓存层次、数据复用与带宽瓶颈
第06章
垂直融合 (Vertical Fusion)
连续算子合并、消除中间张量、减少Kernel Launch开销
第07章
水平融合 (Horizontal Fusion)
同类型算子并行、SIMD/SIMT利用、向量化加速
第08章
混合融合 (Hybrid Fusion)
垂直+水平组合、复杂子图匹配、多级融合策略
第09章
跨边界融合
跨设备/跨内存空间融合、异构计算中的融合挑战
第10章
融合决策引擎
代价模型、启发式搜索、基于机器学习的融合决策
第11章
代价模型详解
计算时间估计、访存时间估计、融合收益计算、阈值设定
第12章
算子调度与执行顺序
拓扑排序、依赖分析、并行调度窗口
第13章
内存规划与缓冲区分配
中间结果复用、内存池管理、双缓冲技术
第14章
代码生成与Kernel发射
融合后代码生成策略、JIT编译、预编译Kernel库
第15章
图优化与Pass管理
Pass流水线、Pass依赖关系、Pass调试与验证
第16章
常量折叠与传播
编译期常量计算、减少运行时开销、与融合的协同
第17章
死代码消除与无用算子移除
图精简、减少计算冗余、提升融合效率
第18章
算子融合与自动微分
反向传播中的融合策略、梯度计算优化、内存节省
第19章
动态形状与融合挑战
动态shape下的融合策略、重编译开销、自适应融合
第20章
稀疏算子的融合
稀疏矩阵乘法、稀疏注意力、稀疏融合特殊处理
第21章
融合与量化协同
量化算子融合、混合精度融合、精度与性能权衡
第22章
融合与内存带宽优化
DDR带宽利用、HBM优化、数据预取与融合
第23章
融合与计算单元利用率
ALU利用率提升、减少流水线停顿、指令级并行
第24章
融合在GPU上的实现
CUDA Kernel融合、Warp级优化、Shared Memory利用
第25章
融合在NPU/TPU上的实现
脉动阵列适配、数据流架构优化、专用指令集
第26章
融合在CPU上的实现
SIMD向量化、多核并行、缓存友好型融合
第27章
融合在FPGA上的实现
流水线深度优化、片上存储利用、定制化数据路径
第28章
融合编译器实战
TVM/Ansor中的融合、XLA中的融合、Triton中的融合
第29章
融合性能调优工具
Profiling工具、性能计数器、融合可视化分析
第30章
未来趋势与挑战
大模型时代的融合、多模态融合、自动化融合搜索