大模型应用全栈架构设计
📘 30章 · 从入门到架构
v2.0
01
大模型时代背景
GPT-3→GPT-4，范式变革，全栈架构师新角色
02
核心概念解析
Token, Prompt, Temperature, RAG, Agent 深度解读
03
大模型选型策略
闭源 vs 开源，成本·性能·合规权衡
04
Prompt Engineering 基础
零样本、少样本、思维链、角色扮演
05
高级 Prompt 模式
Tree-of-Thought, ReAct, Self-Consistency
06
RAG 架构设计
检索增强生成全链路：切分、向量化、重排序
07
向量数据库选型
Pinecone, Weaviate, Milvus, FAISS 对比
08
Embedding 模型选择
OpenAI, Sentence-BERT, BGE, M3E
09
文档解析与预处理
PDF/Word/HTML, OCR, 语义分块
10
检索策略优化
BM25, 稠密/混合检索, HyDE, 查询重写
11
重排序 (Reranker) 技术
Cross-Encoder, Cohere, BGE Reranker
12
Agent 架构设计
ReAct, Plan-and-Execute, Multi-Agent
13
工具调用与 API 集成
Function Calling, Tool Use, 自定义工具
14
记忆系统设计
短期/长期记忆, 工作记忆, 结构化缓存
15
多模态大模型应用
GPT-4V, Claude 3 Vision, 图像理解
16
后端架构设计
FastAPI/Flask, 异步, SSE/WebSocket
17
前端架构设计
React/Vue, 流式渲染, 对话UI
18
API 网关与负载均衡
Nginx, 限流, 熔断, 降级
19
数据管道设计
ETL, 数据清洗, 标注, 版本管理
20
模型微调实战
LoRA, QLoRA, P-Tuning, 数据准备
21
模型评估与测试
BLEU/ROUGE, 人工评估, 红队测试
22
安全与合规
内容过滤, PII脱敏, 幻觉检测
23
监控与可观测性
ELK, Prometheus, OpenTelemetry
24
缓存策略
Prompt/KV-Cache, Redis, 降本增效
25
成本优化
Token控制, 蒸馏, 量化, 批处理
26
CI/CD 与 DevOps
模型部署, A/B测试, 金丝雀发布
27
边缘部署与端侧推理
Ollama, llama.cpp, ONNX, TensorRT
28
企业级案例实战
智能客服, 知识库, 代码助手, 数据分析
29
性能调优
GPU利用率, 显存, vLLM, TensorRT-LLM
30
未来趋势与架构演进
多模态融合, Agent生态, 端云协同