01
算子开发概述
什么是算子 · 核心地位 · 职责与技能栈 · 课程全景图
入门全景
02
AI芯片架构基础
GPU/NPU对比 · 计算单元 · 数据流 · 典型芯片架构
芯片架构
03
深度学习算子分类
卷积/池化/全连接 · 激活 · 归一化 · 循环 · 注意力
算子分类
04
算子开发环境搭建
工具链 · 编译器/调试器 · 性能分析 · 模拟器
环境工具
05
CUDA编程基础
编程模型 · 内存模型 · 同步原子 · Runtime/Driver API
CUDA基础
06
CUDA算子实战(一)
向量加法 · GEMM优化 · Shared Memory · 循环展开
实战优化
07
CUDA算子实战(二)
卷积(im2col+Winograd) · 池化 · 激活算子
卷积池化
08
CUDA算子实战(三)
BatchNorm · LayerNorm · Softmax · TopK/Sort
归一化高级
09
CUDA性能优化技巧
合并访问 · Occupancy · 流水线 · CUDA Graph
性能调优
10
Ascend CANN开发基础
DaVinci Core · TBE框架 · DSL/TIK编程
昇腾CANN
11
Ascend CANN实战
TBE DSL卷积 · TIK自定义 · Profiling · 算子库
昇腾实战
12
寒武纪Neuware开发
MLU架构 · CNCC/CNRT · CNNL · CNPlugin
寒武纪Neuware
13
算子自动生成与编译
TVM/Ansor · XLA · MLIR · OneFlow/MindSpore
自动生成编译
14
算子融合与图优化
融合原理 · Conv+BN+ReLU · TVM自动融合
融合图优化
15
算子精度验证与调试
FP32/FP16/BF16 · 余弦相似度 · printf调试
精度调试
16
算子性能基准测试
延迟/吞吐 · 微基准 · Nsight · 瓶颈定位
基准测试性能
17
算子库开发与维护
分层设计 · 注册调度 · 版本管理 · 文档测试
架构工程
18
自定义算子开发流程
需求分析 · 算法原型 · CUDA/CANN实现 · 测试发布
流程方法论
19
常见陷阱与避坑指南
内存泄漏 · 同步错误 · 边界条件 · 平台兼容
避坑经验
20
算子开发与模型部署
ONNX扩展 · TensorRT插件 · OpenVINO · TFLite
部署推理
21
算子与分布式训练
AllReduce · NCCL/RCCL · 自定义通信算子
分布式通信
22
稀疏算子开发
CSR/COO · SpMM · 稀疏注意力 · 结构化稀疏
稀疏高效
23
量化算子开发
对称/非对称量化 · INT8 Conv/MatMul · QAT
量化INT8
24
算子安全与鲁棒性
输入验证 · 缓冲区溢出 · 模糊测试 · 稳定性
安全鲁棒
25
算子开发数学基础
线性代数 · 微积分 · 数值分析 · 信号处理
数学理论
26
算子开发前沿技术
可微分编程 · Triton/TACO · NAS · 存算一体
前沿创新
27
社区与开源项目
CUDA Samples · TVM · MLIR · 昇腾/寒武纪社区
开源社区
28
算子开发面试指南
GEMM优化 · 系统设计 · 手撕代码 · 项目准备
面试求职
29
算子开发职业发展
初级/高级/架构师 · 技术专家 · 研究员
职业成长
30
综合实战项目
轻量算子库 · ResNet/Transformer推理 · 对标cuDNN
实战项目