01
K8s与vLLM初识
K8s核心概念（Pod、Service、Deployment）、vLLM简介与架构、为什么需要健康检查。
概念架构
02
环境准备
部署K8s集群（Minikube/Kind）、安装vLLM镜像、配置kubectl工具。
部署工具
03
Pod生命周期
Pod状态详解（Pending、Running、Succeeded、Failed、Unknown）、重启策略。
Pod状态
04
存活探针（Liveness Probe）原理
探针类型（HTTP、TCP、Exec）、探测机制、失败后果。
探针存活
05
就绪探针（Readiness Probe）原理
流量接入控制、与Service的关系、滚动更新中的作用。
流量滚动更新
06
启动探针（Startup Probe）原理
慢启动容器保护、与存活探针的配合、适用场景。
慢启动保护
07
vLLM服务特性分析
模型加载耗时、GPU显存占用、请求处理模式（流式/非流式）。
GPU显存
08
vLLM健康检查端点设计
/health、/v1/models、自定义/metrics端点。
端点设计
09
HTTP探针实战（一）
配置Liveness Probe探测/health端点、initialDelaySeconds设置。
HTTP延迟
10
HTTP探针实战（二）
配置Readiness Probe探测/v1/models端点、periodSeconds调优。
周期调优
11
TCP探针实战
vLLM gRPC端口探测、端口映射、超时设置。
TCPgRPC
12
Exec探针实战
自定义脚本检查vLLM进程、GPU状态、模型加载状态。
脚本GPU
13
启动探针配置
解决大模型加载慢导致的误杀问题、failureThreshold设置。
大模型阈值
14
探针参数调优
initialDelaySeconds、periodSeconds、timeoutSeconds、failureThreshold详解。
参数调优
15
vLLM多副本部署
Deployment配置、replicas设置、探针与HPA联动。
副本HPA
16
滚动更新策略
maxSurge、maxUnavailable、探针在更新中的作用。
更新策略
17
优雅关闭与探针
preStop钩子、terminationGracePeriodSeconds、连接 draining。
优雅关闭
18
日志与监控
查看探针日志、kubectl describe pod、Prometheus指标采集。
日志监控
19
常见问题排查（一）
探针超时导致Pod重启、模型OOM、GPU驱动异常。
排查OOM
20
常见问题排查（二）
就绪探针失败导致流量中断、启动探针配置不当。
流量启动
21
高级场景：LoRA与多模型
vLLM LoRA适配器加载、多模型切换时的探针策略。
LoRA多模型
22
安全加固
探针端点鉴权、网络策略、TLS配置。
安全TLS
23
自动化测试
编写探针测试用例、混沌工程实验（Chaos Mesh）。
测试混沌
24
性能基准测试
探针频率对vLLM性能的影响、最佳实践建议。
性能基准
25
生产案例（一）
某AI公司vLLM部署踩坑记、探针配置演进。
案例踩坑
26
生产案例（二）
大规模集群（100+节点）探针优化经验。
大规模优化
27
与Service Mesh集成
Istio健康检查、mTLS下的探针配置。
IstiomTLS
28
多集群部署
联邦集群、跨集群健康检查、全局负载均衡。
多集群联邦
29
未来展望
K8s 1.27+新特性、vLLM 0.6+健康检查改进、AI原生基础设施。
新特性AI原生
30
课程总结与实战考核
综合练习、常见面试题、资源推荐。
考核面试