📘 vLLM 日志监控 · 异常排查
30 章 · 实战体系
🧩 友好色系 · 明快马卡龙
🎯 点击卡片跳转对应章节
📁 01.html ~ 30.html
01
vLLM日志体系概述
日志级别·格式·输出·轮转
→
02
vLLM启动日志分析
模型加载·GPU·KV Cache·调度器
→
03
vLLM请求日志详解
接收·排队·调度·完成
→
04
vLLM性能日志解读
TTFT·TPOT·吞吐量·批处理
→
05
vLLM错误日志分类
OOM·CUDA·超时·推理错误
→
06
vLLM日志采集方案
Filebeat·Logstash·ES·Kibana
→
07
vLLM日志实时监控
Prometheus·Grafana·告警·通知
→
08
vLLM日志存储与检索
归档·压缩·删除·全文检索
→
09
vLLM日志分析工具
grep/awk/sed·jq·Python脚本
→
10
vLLM异常检测基础
阈值·统计·机器学习
→
11
vLLM OOM异常排查
显存泄漏·KV Cache·模型分片·动态批处理
→
12
vLLM请求超时排查
超时参数·队列长度·并发·负载均衡
→
13
vLLM推理错误排查
模型精度·输入格式·tokenizer·采样参数
→
14
vLLM性能瓶颈定位
GPU·CPU·I/O·网络
→
15
vLLM调度异常排查
调度策略·优先级·抢占·公平调度
→
16
vLLM内存管理异常
PagedAttention·碎片化·swap·内存池
→
17
vLLM分布式推理异常
张量并行·流水线并行·通信库·节点故障
→
18
vLLM API服务异常
REST·gRPC·认证·限流熔断
→
19
vLLM日志监控告警系统搭建
规则·级别·抑制·升级
→
20
vLLM日志监控Dashboard设计
关键指标·趋势·热力图·时间线
→
21
vLLM日志自动化分析
模式识别·聚类·异常检测·根因分析
→
22
vLLM日志与链路追踪集成
OpenTelemetry·Span·Trace ID·分布式
→
23
vLLM日志安全与合规
脱敏·访问控制·审计·保留策略
→
24
vLLM大规模部署日志方案
多节点聚合·采样·降级·成本控制
→
25
vLLM日志监控最佳实践
阈值推荐·告警模板·Dashboard·SOP
→
26
vLLM日志监控案例实战
高并发·长文本·多模型部署
→
27
vLLM日志监控系统测试
日志生成器·异常注入·告警准确性·稳定性
→
28
vLLM日志监控系统优化
处理性能·存储·查询·可视化
→
29
vLLM日志监控系统扩展
自定义格式·指标·告警·Dashboard
→
30
vLLM日志监控系统总结
知识体系·FAQ·学习路径·社区资源
→