1. NVSHMEM与K8s概述
各位同学好，我是你们这门课的老朋友。今天咱们聊聊NVSHMEM和Kubernetes这两个东西，以及为什么要把它们放在一起。
说实话，我第一次接触NVSHMEM的时候，也被它的设计思路惊艳到了。它让GPU之间的通信变得像共享内存一样简单。而Kubernetes呢，现在已经是容器编排的事实标准了。把这两者结合，说白了就是让高性能计算也能像微服务一样灵活部署。
NVSHMEM简介
NVSHMEM，全称是NVIDIA Shared Memory。它基于OpenSHMEM标准，专门为NVIDIA GPU做了深度优化。
我给大家打个比方：传统GPU编程里，你要在两个GPU之间传数据，得手动调用cudaMemcpy，指定源地址、目标地址、数据大小，还得考虑同步。用NVSHMEM呢？直接像读写本地变量一样操作远程GPU的内存。嗯，就是这么神奇。
核心特性：
- 对称内存模型：所有PE（处理单元）看到的内存地址是一样的
- 单边通信：PUT/GET操作，不需要对方参与
- 集合操作：barrier、broadcast、reduce等
- 支持多节点、多GPU
我记得第一次在DGX-2上跑NVSHMEM的带宽测试，8张V100互联，峰值带宽接近800GB/s。当时我就想，这玩意儿要是能上K8s，那得多方便。
Kubernetes简介
Kubernetes，大家习惯叫它K8s。它本质上是一个容器编排平台，帮你管理应用的部署、扩缩容、服务发现这些事。
为什么需要K8s？你想想看，一个AI训练任务，可能需要几十个GPU，分布在多台机器上。手动配置网络、挂载存储、管理资源，累不累？K8s把这些都自动化了。
| K8s核心概念 | 说明 |
|---|---|
| Pod | 最小的调度单元，一个Pod可以包含多个容器 |
| Node | 工作节点，可以是物理机或虚拟机 |
| Service | 网络抽象，提供稳定的访问入口 |
| Volume | 存储抽象，支持多种后端 |
我个人习惯把K8s看作一个数据中心操作系统。你告诉它「我要跑一个需要8张GPU的训练任务」，它自动帮你找合适的节点、分配资源、拉起容器。出问题了还能自动重启。
为什么要在K8s上部署NVSHMEM
这个问题我经常被问到。其实原因很直接：
- 资源利用率高：传统HPC集群，任务独占整台机器。K8s可以混部，GPU利用率能提升30%以上。
- 弹性伸缩：训练任务多了，自动加节点；任务少了，自动回收。我在项目中遇到过，双十一期间流量暴增，K8s自动扩容帮了大忙。
- 运维简单：升级NVSHMEM版本？改个镜像标签，滚动更新就行。不用再登录每台机器手动装驱动了。
- 多租户隔离：不同团队的任务跑在各自的命名空间里，互不干扰。
避坑指南：我曾经在K8s上部署NVSHMEM时，忽略了GPU拓扑感知。结果任务调度到了跨NVLink的GPU上，通信带宽直接腰斩。后来加了nodeSelector和拓扑调度策略才解决。
课程目标与前置知识
这门课的目标很明确：让你能独立在K8s集群上部署NVSHMEM应用，并且跑出接近裸机的性能。
具体来说，学完这门课，你应该能：
- 理解NVSHMEM的通信模型和K8s的资源管理机制
- 手动搭建支持GPU的K8s集群
- 编写NVSHMEM应用的Dockerfile和K8s YAML
- 配置网络插件（如RDMA over Converged Ethernet）
- 进行性能调优和故障排查
前置知识方面，我希望你：
- 熟悉Linux基本操作（ssh、systemd、网络配置）
- 了解CUDA编程基础（知道kernel、stream、event是什么）
- 用过Docker（会写Dockerfile就行）
- 对K8s有基本认知（知道Pod、Service、Deployment）
如果你还不熟悉K8s，别担心。我会在课程中穿插讲解必要的K8s概念。但CUDA基础我默认你已经有了——毕竟NVSHMEM是建立在CUDA之上的。
我的建议：学这门课之前，最好先在自己的笔记本上装个minikube或者kind，把K8s的基本操作过一遍。这样后面实操的时候不会手忙脚乱。
本章知识体系
下面这张图展示了本章的核心逻辑。我画了个简单的结构图，方便你理解各个知识点之间的关系。
从图上你能看到，NVSHMEM和K8s各自有独立的知识体系，但它们的结合点在于GPU资源管理和高性能网络。这也是我们这门课要攻克的核心难点。
好了，第一章就到这里。记住，理解NVSHMEM的通信模型和K8s的资源抽象，是后续所有实操的基础。下一章我们开始动手搭建环境。