🧩 从零搭建 Ollama 私有推理环境
📚 30 章 · 动手实战
01
认识Ollama
Ollama是什么
为什么选择Ollama
核心优势与场景
📖 开始学习 →
02
环境准备
服务器选型
硬件要求
基础配置
📖 开始学习 →
03
安装Docker
安装与验证
镜像加速器
非root管理
📖 开始学习 →
04
安装Ollama
一键安装
手动安装
验证安装
📖 开始学习 →
05
Ollama基础命令
下载/查看模型
运行模型
交互对话
📖 开始学习 →
06
模型管理
已下载列表
删除模型
版本管理
📖 开始学习 →
07
Ollama配置文件
路径与格式
修改运行参数
重启服务
📖 开始学习 →
08
GPU加速配置
NVIDIA驱动
CUDA Toolkit
验证GPU
📖 开始学习 →
09
CPU模式运行
纯CPU部署
调整线程数
内存优化
📖 开始学习 →
10
模型下载加速
代理下载
镜像源
断点续传
📖 开始学习 →
11
常用开源模型介绍
Llama系列
Qwen系列
Mistral/DeepSeek
📖 开始学习 →
12
模型对比与选型
任务类型选择
参数量权衡
量化模型GGUF
📖 开始学习 →
13
Ollama API基础
启动API服务
API端点
curl调用
📖 开始学习 →
14
API编程调用
Python调用
流式输出
错误重试
📖 开始学习 →
15
自定义模型
创建Modelfile
修改提示词模板
导入自定义
📖 开始学习 →
16
模型量化
什么是量化
使用Ollama量化
效果对比
📖 开始学习 →
17
多模型管理
同时运行多模型
模型切换
资源分配
📖 开始学习 →
18
日志与监控
查看日志
配置日志级别
Prometheus监控
📖 开始学习 →
19
性能调优
调整批处理
优化GPU内存
并发请求
📖 开始学习 →
20
安全配置
API认证鉴权
防火墙规则
HTTPS配置
📖 开始学习 →
21
备份与恢复
模型文件备份
配置文件备份
快速恢复
📖 开始学习 →
22
升级Ollama
检查版本
升级步骤
回滚旧版本
📖 开始学习 →
23
常见问题排查
模型加载失败
内存不足
GPU不可用
📖 开始学习 →
24
集成Open WebUI
安装WebUI
连接Ollama
用户管理
📖 开始学习 →
25
集成LangChain
安装LangChain
调用Ollama
构建RAG应用
📖 开始学习 →
26
集成FastAPI
自定义API服务
封装Ollama接口
业务逻辑
📖 开始学习 →
27
集群部署
多节点部署
负载均衡
高可用方案
📖 开始学习 →
28
容器化部署
编写Dockerfile
docker-compose
Kubernetes
📖 开始学习 →
29
生产环境最佳实践
资源规划
监控告警
灾备方案
📖 开始学习 →
30
项目实战
私有AI助手
模型管理+API
Web界面+监控
📖 开始学习 →