什么是法律大模型
核心能力
法律问答/文书/检索
典型应用场景
硬件选型 GPU/内存
操作系统配置
CUDA & PyTorch
Docker容器化
LawGPT/ChatLaw/LexiLaw
模型配置文件
Tokenizer初始化
Flask/FastAPI搭建
请求与响应格式
流式输出
超时与重试
显存不足分析
梯度检查点
INT8/FP16量化
调整batch size
权重文件损坏
版本不匹配
路径错误
HuggingFace Hub
编码问题
Tokenizer词汇表
特殊Token处理
后处理修复
模型/硬件不匹配
半精度加速
批处理优化
vLLM/TensorRT
Prompt结构设计
角色设定
Few-shot示例
Chain-of-Thought
偏离法律事实
幻觉问题
引用法条错误
多轮上下文丢失
检索结果不相关
Top-K召回不足
混合检索策略
稠密+稀疏
向量数据库选型
Milvus/FAISS
文档分块策略
Embedding模型
检索质量差
上下文窗口溢出
检索与生成脱节
重排序优化
LoRA/QLoRA原理
数据集准备
法律问答对
训练脚本编写
法律评估指标
准确率/召回率/BLEU/ROUGE
测试集构建
人工评估流程
日志级别设置
关键指标采集
延迟/吞吐量/错误率
Grafana+Prometheus
数据隐私保护
模型偏见检测
内容安全过滤
合规审计
DVC/MLflow
A/B测试
灰度发布
快速回滚策略
移动端/嵌入式
模型压缩/剪枝/蒸馏
ONNX Runtime
用户反馈收集
Bad Case标注
持续迭代流程
模型更新策略
从零搭建法律咨询助手
全链路故障排查演练
最佳实践总结