Ollama 微调 · 实战目录
📚
30 章 · 从入门到部署
01
Ollama 入门
Ollama是什么
核心优势
安装与配置
基本命令
02
模型基础
大语言模型
参数与量化
Llama/Qwen/Mistral
GGUF格式
03
Ollama 模型管理
下载模型
查看本地模型
删除模型
标签管理
运行与交互
04
Ollama API 使用
REST API概览
生成文本API
聊天API
嵌入API
参数调优
05
Ollama 客户端开发
Python客户端
JavaScript客户端
curl命令行
流式响应
06
模型微调基础
什么是微调
全量微调 vs LoRA
数据准备
工作流程
07
LoRA 微调原理
低秩适配原理
参数配置
优势与局限
QLoRA简介
08
数据准备与清洗
JSONL格式
数据质量检查
数据增强
分割策略
09
微调工具链
HuggingFace Transformers
PEFT库
TRL库
Axolotl框架
10
Axolotl 实战
安装与配置
配置文件详解
启动微调任务
监控训练
11
微调参数调优
学习率设置
批次大小
训练轮数
优化器选择
调度策略
12
单卡微调实战
环境准备
数据加载
模型加载
训练循环
模型保存
13
多卡分布式微调
DeepSpeed
FSDP策略
数据并行
模型并行
监控
14
微调过程监控
损失曲线
评估指标
过拟合检测
早停策略
15
模型评估与测试
BLEU/ROUGE/Perplexity
人工评估
A/B测试
16
微调模型导出
导出LoRA权重
合并到基础模型
转换为GGUF
模型量化
17
Ollama 自定义模型
创建Modelfile
配置模板
设置参数
导入自定义模型
18
Modelfile 详解
FROM指令
TEMPLATE
PARAMETER
LICENSE
MESSAGE
19
私有化部署方案
本地服务器
内网穿透
Docker容器化
Kubernetes集群
20
Docker 部署实战
Dockerfile
docker-compose
持久化存储
日志管理
21
API网关与负载均衡
Nginx反向代理
API限流
负载均衡
高可用架构
22
模型推理优化
vLLM推理引擎
TensorRT-LLM
KV缓存优化
批处理策略
23
量化技术深入
GPTQ量化
AWQ量化
GGUF量化级别
性能影响
24
RAG 系统集成
什么是RAG
向量数据库 (Chroma/FAISS)
检索增强生成
Ollama+RAG实战
25
Function Calling
函数调用原理
工具定义格式
Ollama函数调用
应用案例
26
多模态模型微调
LLaVA模型
图像理解微调
多模态数据准备
多模态评估
27
模型安全与合规
内容过滤
提示注入防护
数据隐私保护
审计日志
28
性能监控与日志
Prometheus监控
Grafana可视化
日志收集分析
告警配置
29
版本管理与回滚
模型版本控制
A/B部署策略
灰度发布
快速回滚
30
综合实战项目
全流程实战
常见问题排查
最佳实践
未来展望