第1章
AI算力集群概述
核心组件 · 架构演进 · 大模型训练/推理/科学计算
概念全景
第2章
硬件选型与规划
GPU对比 · CPU/内存 · InfiniBand vs RoCE · 并行文件系统
硬件选型
第3章
网络架构设计
Fat-Tree · Spine-Leaf · RDMA/GPUDirect · 带宽瓶颈
网络拓扑
第4章
集群操作系统与驱动
Ubuntu 22.04 · NVIDIA驱动 · CUDA · Docker + Container Toolkit
OS驱动
第5章
集群管理工具
Slurm · OpenHPC · Prometheus + Grafana 监控栈
管理监控
第6章
存储系统搭建
Lustre · NFS/GPFS · NVMe缓存 · 备份容灾
存储并行
第7章
容器化与编排
Docker镜像 · Kubernetes · Volcano · k8s-device-plugin
容器K8s
第8章
资源调度基础
队列/分区/优先级 · Slurm作业 · 独占/共享/抢占
调度Slurm
第9章
GPU资源虚拟化
MIG · vGPU · 时间片切分 · 显存隔离与共享
虚拟化GPU
第10章
高性能网络调优
NCCL参数 · MTU/流控 · RoCE v2 · InfiniBand Subnet Manager
网络调优
第11章
分布式训练框架集成
PyTorch DDP/FSDP · DeepSpeed ZeRO · Megatron-LM · Horovod
训练框架
第12章
作业调度策略
FIFO/回填 · Fairshare · 优先级抢占 · 资源预留
策略调度
第13章
集群监控与告警
DCGM Exporter · Grafana仪表盘 · PagerDuty/钉钉/邮件
监控告警
第14章
日志管理
ELK Stack · Filebeat · 日志分析 · 故障定位
日志ELK
第15章
用户管理与权限
LDAP · 配额管理 · 作业审计 · 多租户隔离
权限多租户
第16章
集群安全
防火墙/SELinux · 容器安全 · 数据加密 · RBAC
安全加密
第17章
性能测试与基准
GPU带宽/算力 · ib_write_bw/nccl-tests · fio/mdtest · 端到端训练
基准性能
第18章
故障排查与恢复
GPU XID · 网络丢包 · 作业失败分析 · 备份快照
故障恢复
第19章
集群扩缩容
水平扩展 · 垂直扩展 · 滚动升级 · 数据迁移
扩缩容运维
第20章
混合云与边缘集群
公有云GPU · VPN/Direct Connect · K3s/OpenYurt
混合云边缘
第21章
大模型训练集群实战
LLaMA/千问 · 数据并行+模型并行 · Checkpoint · 稳定性优化
大模型实战
第22章
推理集群搭建
vLLM/TensorRT-LLM · KServe/Triton · 动态批处理 · 延迟优化
推理服务化
第23章
科学计算集群
MPI · GROMACS/NAMD · WRF · AlphaFold
科学计算HPC
第24章
集群成本优化
GPU利用率 · Spot实例 · 资源碎片 · DVFS/液冷
成本节能
第25章
自动化运维
Ansible · Terraform · CI/CD · 自愈机制
自动化DevOps
第26章
集群高可用设计
控制节点HA · 存储RAID/副本 · 网络多路径 · 自动切换
高可用冗余
第27章
数据管理
DVC · Apache Arrow/Ray Data · Alluxio · 数据标注平台
数据版本
第28章
合规与治理
GDPR · 对抗攻击防御 · 审计日志 · 资源使用报告
合规治理
第29章
前沿技术
CXL内存池化 · DPU/IPU · 量子+AI · 光互连
前沿创新
第30章
综合案例：128节点A100集群
需求分析 · 硬件采购 · 网络布线 · 部署调优 · 上线运营
全流程实战