01
vLLM与K8s基础
vLLM架构概览 · K8s核心概念 · 为什么需要日志监控
入门架构
02
日志采集架构设计
Fluentd vs Filebeat · DaemonSet部署 · 日志路径规划
采集DaemonSet
03
vLLM日志格式解析
请求日志 · 调度日志 · GPU内存日志 · 错误分类
解析结构化
04
Prometheus监控体系
Metrics暴露 · ServiceMonitor · Grafana看板
监控PromQL
05
关键性能指标
TTFT · TPOT · 吞吐量 · GPU利用率 · 显存碎片率
性能SLO
06
告警规则设计
慢请求告警 · OOM告警 · 节点故障 · QPS突降
告警Alertmanager
07
日志存储与检索
ES集群搭建 · 索引生命周期 · Kibana可视化
存储ELK
08
K8s资源调优
Pod资源限制 · HPA · 节点亲和性调度
调度HPA
09
GPU显存优化
KV Cache管理 · PagedAttention · 显存监控
显存vLLM
10
请求排队与并发
max_num_seqs · 调度策略 · 排队延迟分析
并发排队
11
模型加载优化
模型分片 · 量化部署 · 热加载与冷启动
加载量化
12
网络延迟排查
CNI插件 · Service Mesh · Pod间通信优化
网络延迟
13
存储性能调优
PV/PVC配置 · 本地SSD vs 网络存储 · IOPS
存储IOPS
14
日志采样策略
全量 vs 采样 · 错误日志优先 · 动态调整
采样成本
15
多租户隔离
命名空间隔离 · 资源配额 · 日志权限控制
多租户RBAC
16
集群级监控
Kube-state-metrics · Node Exporter · cAdvisor
集群监控
17
vLLM版本升级
滚动升级 · 兼容性检查 · 回滚方案
升级回滚
18
故障排查实战
CrashLoopBackOff · OOMKilled · GPU不可用
排障实战
19
性能基准测试
wrk压测 · vLLM benchmark · 结果分析
压测基准
20
日志告警通知
Alertmanager · 钉钉/企微 · 值班轮转
通知IM
21
成本优化
Spot实例 · GPU共享 · 日志存储压缩
成本Spot
22
安全合规
日志脱敏 · 审计日志 · RBAC权限
安全合规
23
多集群管理
Federation · 统一日志中心 · 跨集群调度
多集群Federation
24
vLLM API监控
请求成功率 · 延迟分位数 · Token消耗
APISLA
25
GPU拓扑感知
NVLink拓扑 · NUMA亲和性 · 性能影响
拓扑NVLink
26
日志分析自动化
异常检测 · 根因分析 · 自动修复脚本
自动化AIOps
27
容量规划
历史趋势 · 资源预留 · 扩容预测
容量规划
28
混沌工程
Pod故障注入 · 网络延迟 · GPU故障模拟
混沌韧性
29
最佳实践总结
架构设计原则 · 运维SOP · 常见误区
最佳实践SOP
30
案例复盘
某大模型服务从故障到优化的完整过程
案例复盘