华为昇腾AI软件生态建设逻辑
📚 共计 30 章节
01
昇腾AI计算架构全景
从芯片到应用的全栈软件栈解析，包括CANN、MindSpore、MindX等核心组件的定位与关系。
全栈
CANN
MindSpore
02
CANN算子开发与适配
TBE算子开发框架、DSL与API模式、算子注册与调优流程。
TBE
DSL
调优
03
MindSpore自动并行与分布式训练
数据并行、模型并行、混合并行策略，以及自动并行编排原理。
自动并行
分布式
混合并行
04
MindX深度学习使能平台
模型推理优化、模型压缩（量化/剪枝）、昇腾张量加速引擎。
MindX
量化
推理优化
05
昇腾推理引擎与模型部署
OM模型转换、离线推理流程、动态batch与多路并发优化。
OM模型
离线推理
动态batch
06
昇腾生态工具链
MindStudio IDE、昇腾调优工具（Profiling/Debug）、模型迁移工具。
MindStudio
Profiling
迁移
07
昇腾算子库与高性能计算
AscendCL编程接口、矩阵计算加速、FFT与图像处理加速。
AscendCL
矩阵加速
FFT
08
昇腾AI框架适配与迁移
PyTorch模型迁移至昇腾、ONNX模型适配、TensorFlow模型迁移。
PyTorch
ONNX
TensorFlow
09
昇腾推理卡与服务器硬件架构
Atlas 200/300/500系列、训练卡与推理卡选型、HCCS互联拓扑。
Atlas
HCCS
硬件选型
10
昇腾集群管理与资源调度
Ascend Docker容器化、Kubernetes集成、昇腾Device Plugin。
容器化
K8s
Device Plugin
11
昇腾AI安全与可信计算
模型加密、推理数据隔离、安全启动与固件校验。
模型加密
数据隔离
安全启动
12
昇腾生态合作伙伴与开发者社区
昇腾社区运营、ISV认证流程、开发者激励计划。
社区
ISV
激励计划
13
昇腾大模型训练实践
LLaMA/GLM等大模型在昇腾上的训练调优、ZeRO优化器适配。
大模型
ZeRO
LLaMA
14
昇腾推理性能优化
算子融合、内存复用、计算图优化、异步推理流水线。
算子融合
内存复用
异步推理
15
昇腾多卡通信优化
HCCL集合通信库、AllReduce/AllGather性能调优、拓扑感知调度。
HCCL
AllReduce
拓扑感知
16
昇腾AI框架自定义算子开发
自定义算子注册、算子性能调优、算子精度验证。
自定义算子
精度验证
调优
17
昇腾模型压缩与量化工具
AMCT工具链、混合精度训练、INT8量化推理。
AMCT
混合精度
INT8
18
昇腾AI应用场景案例
智慧城市、工业质检、自动驾驶、医疗影像。
智慧城市
工业质检
自动驾驶
19
昇腾与华为云协同
ModelArts集成、昇腾云服务、边缘-云协同推理。
ModelArts
云服务
边云协同
20
昇腾AI框架生态兼容性
与PyTorch、TensorFlow、PaddlePaddle的兼容性对比与迁移成本。
兼容性
迁移成本
对比
21
昇腾算子开发进阶
自定义算子性能优化、算子融合策略、算子调试技巧。
性能优化
融合策略
调试
22
昇腾模型推理服务化
Triton Inference Server适配、gRPC/RESTful API封装、负载均衡。
Triton
gRPC
负载均衡
23
昇腾AI框架版本演进
CANN版本升级策略、MindSpore版本兼容性、长期支持版本(LTS)选择。
版本升级
LTS
兼容性
24
昇腾AI生态标准与认证
昇腾认证模型库、算子标准、模型精度标准。
认证模型
算子标准
精度标准
25
昇腾AI开发者工具链
MindX SDK、模型可视化工具、性能分析工具。
MindX SDK
可视化
性能分析
26
昇腾AI框架社区贡献
代码贡献流程、Issue反馈、PR提交规范。
社区贡献
PR
Issue
27
昇腾AI生态未来趋势
Chiplet架构、存算一体、AI for Science。
Chiplet
存算一体
AI4S
28
昇腾AI生态建设方法论
平台思维、开发者体验、生态杠杆效应。
平台思维
开发者体验
生态杠杆
29
昇腾AI生态竞争分析
与NVIDIA CUDA生态对比、与百度飞桨生态对比、与寒武纪生态对比。
CUDA
飞桨
寒武纪
30
昇腾AI生态实战项目
从模型训练到推理部署的全流程实战，包括环境搭建、模型迁移、性能调优、服务化部署。
全流程
实战
部署