📘 法律大模型部署与运维手册
⚖️ 30章 从入门到专家
🧑⚖️
友好色系 · 专业内核
📌
点击卡片下方按钮跳转对应章节 (01.html ~ 30.html)
✨ 共30个模块，紧凑呈现
01
法律大模型概述
法律问答
文书生成
合同审查
应用场景
02
硬件环境规划
GPU选型
A100/H100
昇腾
网络架构
03
软件环境搭建
Ubuntu
CUDA
Docker
Python虚拟环境
04
模型获取与准备
LawGPT
ChatLaw
HuggingFace
模型校验
05
模型部署框架选型
vLLM
TGI
FastChat
llama.cpp
06
单机单卡部署
环境准备
模型加载
API测试
性能基准
07
单机多卡部署
张量并行
流水线并行
vLLM多卡
显存管理
08
多机多卡部署
分布式架构
NCCL/RDMA
模型分片
实战案例
09
API服务封装
RESTful
FastAPI
认证鉴权
API文档
10
流式输出实现
SSE原理
流式接口
前端展示
性能优化
11
推理加速技术
KV Cache
Flash Attention
Continuous Batching
量化
12
模型量化实战
GPTQ
AWQ
GGUF
精度分析
13
Prompt工程与模板管理
Few-shot
Chain-of-Thought
模板系统
安全过滤
14
知识库集成 (RAG)
RAG架构
向量数据库
文档分块
Embedding
15
法律知识库构建
数据采集
裁判文书
术语词典
更新维护
16
模型微调基础
LoRA
QLoRA
指令数据
参数配置
17
法律领域微调实战
问答对构建
合同标注
数据增强
实验对比
18
模型评估体系
准确率/召回率
F1
自动化评估
人工评估
19
监控与日志系统
QPS/延迟
Prometheus+Grafana
ELK
告警
20
性能调优
瓶颈分析
批处理优化
并发管理
显存碎片
21
高可用架构
多副本
Nginx/HAProxy
健康检查
蓝绿部署
22
安全与合规
提示注入防护
数据脱敏
审计日志
法律合规
23
容器化与编排
Docker镜像
Kubernetes
Helm Chart
HPA/VPA
24
CI/CD流水线
DVC/MLflow
自动化测试
部署流水线
回滚策略
25
灾备与容灾
模型备份
数据恢复
异地多活
灾难演练
26
成本优化
GPU利用率
Spot实例
模型蒸馏
缓存策略
27
运维自动化
Ansible
Terraform
巡检脚本
自动扩缩容
28
故障排查指南
部署错误
模型加载失败
OOM
超时/网络
29
版本升级与迁移
模型升级
框架兼容
数据迁移
回滚方案
30
运维最佳实践
检查清单
性能基线
容量规划
知识管理
⚡ 点击卡片按钮跳转对应章节 · 风格色彩 · 专业法律大模型运维