01
AI芯片软件平台全景概览
AI芯片演进历史 · 软件栈核心价值 · 全栈层次划分
驱动层运行时编译层
02
硬件抽象层与驱动开发
寄存器映射 · BAR空间/MMIO · 中断&DMA · 健康检查
驱动MMIODMA
03
AI芯片指令集架构
标量/向量/矩阵指令 · MMA · 数据搬运 · 屏障与自定义扩展
ISA向量MMA
04
编译器前端
词法/语法分析 · AST · 符号表 · 类型推导 · IR设计
词法ASTIR
05
编译器中间优化
常量折叠 · 死代码消除 · 循环优化 · 自动向量化
循环展开向量化
06
编译器后端
指令选择 · 寄存器分配 · 流水线 · 代码发射
图着色调度
07
张量编译器设计
计算图优化 · 自动微分 · 内存规划 · JIT编译
算子融合JIT
08
运行时系统
任务调度 · 内存池 · 设备上下文 · 异步执行 · 性能剖析
调度器异步
09
AI算子库开发
卷积(im2col/Winograd) · 矩阵乘法 · 归一化/池化
高性能SIMD
10
神经网络量化技术
对称/非对称量化 · KL散度 · QAT · 混合精度推理
量化QAT
11
模型部署与推理引擎
ONNX/TFLite · 图优化 · 动态批处理 · 推理流水线
部署延迟优化
12
训练平台软件栈
Horovod/DDP · 梯度累积 · AMP · 检查点 · 可视化
分布式AMP
13
AI芯片调试与性能分析
硬件跟踪点 · Profiling · 热点识别 · 内存泄漏检测
性能计数器调优
14
模型压缩与剪枝
结构化/非结构化剪枝 · 知识蒸馏 · 低秩分解 · 硬件感知
剪枝蒸馏
15
异构计算与多芯片互联
PCIe/NVLink/CCIX · 统一内存 · 数据一致性 · 负载均衡
互联一致性
16
AI芯片安全与可信计算
安全启动 · 固件签名 · TEE · 侧信道防御 · IP保护
安全TEE
17
虚拟化与多租户支持
SR-IOV · GPU分区 · QoS · 多租户隔离
虚拟化QoS
18
AI芯片固件开发
固件架构 · RTOS移植 · Bootloader · 升级回滚
固件RTOS
19
硬件加速器接口封装
自定义算子 · ONNX Runtime扩展 · TF/PyTorch插件 · TVM
插件TVM
20
AI芯片基准测试与评估
MLPerf · TOPS/FPS · 功耗能效 · 公平比较
基准MLPerf
21
软件平台持续集成与测试
自动化构建 · 单元测试 · 回归测试 · 硬件在环
CI质量门禁
22
AI芯片文档与开发者体验
API文档自动生成 · 交互式教程 · 示例代码 · 社区
文档DX
23
边缘AI芯片软件优化
模型轻量化 · 内存受限 · 实时性 · OTA · 功耗管理
边缘轻量化
24
AI芯片软件平台架构演进
裸机→微内核 · SOA · 容器化 · 云原生 · 存算一体
架构云原生
25
开源AI芯片软件生态
RISC-V扩展 · MLIR/TVM · OpenCL/SYCL · HuggingFace
开源RISC-V
26
AI芯片驱动稳定性与可靠性
错误注入 · 压力测试 · 故障恢复 · 看门狗 · 问题排查
可靠性长稳
27
AI芯片软件平台项目管理
敏捷开发 · 里程碑 · 跨团队协作 · 风险管理 · 技术债务
管理敏捷
28
性能建模与仿真
性能模型 · 模拟器 · RTL协同 · 设计空间探索
仿真建模
29
标准化与互操作性
MLIR/ONNX · 统一设备抽象 · 跨平台 · 认证合规
标准互操作
30
实战案例：从零搭建软件栈
端到端部署 · 性能调优 · 常见问题 · 经验总结
实战案例