vLLM与LangChain协同开发实战 · 课程目录

01vLLM与LangChain生态全景

vLLM核心优势、LangChain框架定位、协同价值与典型场景

02vLLM环境搭建与基础配置

GPU环境检查、vLLM安装、模型下载加载、基础推理测试

03vLLM核心API详解

LLM类与AsyncLLMEngine、SamplingParams、流式输出与批处理

04vLLM性能调优实战

PagedAttention、KV Cache优化、连续批处理、量化部署

05vLLM服务化部署

OpenAI兼容API、Server配置、并发请求、负载均衡

06LangChain环境搭建与核心概念

安装、LCEL、Runnable接口、回调机制

07LangChain模型调用

ChatOpenAI、自定义LLM、消息类型、Token计数、流式回调

08LangChain提示模板

PromptTemplate、ChatPromptTemplate、FewShot、动态变量

09LangChain输出解析器

StrOutputParser、PydanticOutputParser、自定义、结构化输出

10LangChain记忆模块

ConversationBufferMemory、SummaryMemory、向量存储记忆

11LangChain链式调用

LLMChain、SequentialChain、RouterChain、自定义Chain

12LangChain检索增强生成(RAG)

文档加载器、文本分割、向量存储、检索器

13LangChain Agent与工具

ReAct Agent、Tool定义、AgentExecutor、多工具协同

14vLLM与LangChain集成基础

自定义LLM包装器、传递vLLM参数、统一调用接口

15vLLM+LangChain流式输出实战

StreamingCallbackHandler、异步流式、WebSocket集成

16vLLM+LangChain批量推理

Batch处理、并发控制、结果聚合与错误处理

17vLLM+LangChain RAG实战

vLLM生成模型、Embedding选择、检索生成流水线

18vLLM+LangChain Agent实战

vLLM驱动ReAct Agent、工具调用、多步推理

19vLLM+LangChain多模型管理

模型路由、动态切换、A/B测试、成本控制

20vLLM+LangChain监控与日志

LangSmith集成、请求追踪、性能指标、异常告警

21vLLM+LangChain缓存策略

LLM缓存、语义缓存、Redis集成、失效策略

22vLLM+LangChain安全实践

输入验证、输出过滤、速率限制、敏感信息脱敏

23vLLM+LangChain微调模型部署

LoRA适配器加载、多LoRA切换、热加载与卸载

24vLLM+LangChain多模态扩展

视觉语言模型集成、图像输入处理、多模态链

25vLLM+LangChain函数调用

Function Calling协议、参数绑定、结构化输出、工具链编排

26vLLM+LangChain长上下文处理

滑动窗口、上下文压缩、摘要技术、分块策略

27vLLM+LangChain生产部署

Docker容器化、Kubernetes编排、自动扩缩容、健康检查

28vLLM+LangChain性能基准测试

吞吐量、延迟、并发测试、对比分析

29vLLM+LangChain常见问题排查

OOM处理、请求超时、模型加载失败、版本兼容性

30综合项目实战

智能客服、代码助手、文档问答、多Agent协作系统