01
AI芯片概述
定义、发展历程、GPU/FPGA/ASIC/NPU分类,典型产品对比
基础概念
02
工具链全景
编译器/驱动/算子库/推理引擎,端到端工作流
架构流程
03
开发环境搭建
Linux环境、交叉编译工具链、芯片SDK获取与部署
环境SDK
04
模型转换入门
ONNX格式、导出与转换工具(onnx2npu)、精度校验
ONNX转换
05
量化基础
INT8/FP16原理、校准数据集、量化工具使用
量化INT8
06
算子开发实战
自定义算子流程、TIK编程、算子测试
算子TIK
07
编译器原理
TVM/MLIR基础、计算图优化、内存分配策略
编译器TVM
08
驱动开发
芯片驱动框架、IOCTL、DMA传输、中断处理
驱动DMA
09
推理引擎部署
TensorRT/OpenVINO/MindSpore Lite集成、序列化
推理部署
10
性能分析工具
Profiling、算子耗时、内存带宽瓶颈定位
性能Profiling
11
调试与日志
GDB调试、日志分级、异常捕获机制
调试GDB
12
模型精度调优
精度损失分析、混合精度、校准后量化微调
精度混合精度
13
多芯片协同
多卡通信(NCCL/RCCL)、数据并行、模型并行
并行NCCL
14
算子库优化
cuDNN/MIOpen适配、手写汇编算子、Winograd
算子库Winograd
15
内存管理
内存池设计、DDR/HBM分配、Cache一致性
内存Cache
16
图编译优化
算子融合、常量折叠、死代码消除、子图替换
图优化编译
17
动态形状支持
动态batch、可变长序列、动态shape编译器
动态Shape
18
稀疏计算
稀疏矩阵存储、稀疏算子、剪枝后加速
稀疏剪枝
19
安全与隔离
TEE安全域、模型加密、多租户隔离
安全TEE
20
自动化测试
CI/CD流水线、算子回归测试、性能基线监控
测试CI/CD
21
文档与社区
API文档生成、开发者社区、Issue追踪
文档社区
22
边缘部署
TFLite/NCNN、模型压缩、功耗优化
边缘TFLite
23
云端部署
容器化推理、Kubernetes调度、弹性伸缩
云端K8s
24
异构计算
CPU+NPU协同、任务调度、数据搬运优化
异构协同
25
模型可视化
计算图可视化、特征图、注意力热力图
可视化热力图
26
持续集成
Git工作流、代码审查、自动化构建与测试
CIGit
27
版本管理
语义化版本、兼容性策略、回滚机制
版本兼容
28
生态兼容
PyTorch/TF/PaddlePaddle适配、算子映射表
生态框架
29
案例实战
ResNet-50/YOLOv5从训练到芯片部署全流程
实战YOLOv5
30
未来趋势
存算一体、光计算、RISC-V AI扩展、开源硬件
前沿RISC-V