📘 Ollama 离线部署 全流程指南

🧩 30 章 · 离线实战
Ollama是什么 为什么离线部署 课程目标与前置 硬件软件要求
模型仓库 模型文件 量化技术 GPU/CPU推理 架构概览
Ubuntu 22.04安装 SSH远程连接 基础网络配置 防火墙规则
Docker CE安装 Docker Compose 镜像加速器 非root管理
显卡驱动检测 CUDA 12.x cuDNN配置 验证GPU
官方安装脚本 手动二进制 Docker部署 自启动配置
环境变量 模型存储路径 并发请求限制 日志级别
在线下载模型 模型文件导出 scp/rsync传输 U盘拷贝方案
Modelfile编写 自定义模型 模型列表查看 删除与备份
纯CPU推理配置 性能调优参数 内存占用优化 适用场景分析
GPU加速配置 多GPU负载均衡 显存管理技巧 性能监控
RESTful API概览 聊天接口 生成/嵌入接口 模型管理接口
requests库调用 openai兼容模式 流式输出处理 错误处理
Open WebUI Gradio快速搭建 Streamlit示例 自定义前端
GGUF格式介绍 量化级别 q4/q5/q8 量化工具使用 精度与性能权衡
同时加载多模型 模型热切换 资源分配策略 模型隔离
私有模型仓库 Harbor部署 模型版本管理 访问控制
API认证 HTTPS配置 IP白名单 用户隔离方案
Ollama日志分析 Prometheus监控 Grafana仪表盘 告警规则设置
推理速度测试 并发压力测试 内存/显存监控 结果分析报告
启动失败 模型加载错误 OOM问题 网络超时/兼容性
模型文件备份 配置文件备份 Docker数据卷 灾难恢复演练
Ollama版本升级 模型迁移 跨平台迁移 回滚方案
多节点集群 负载均衡配置 模型分片 高可用设计
树莓派部署 Jetson Nano 资源受限优化 功耗控制
WSL2配置 Windows原生安装 Docker Desktop 路径兼容性
Apple Silicon优化 Metal加速 Homebrew安装 资源限制
智能客服 代码助手 文档分析 知识库问答
开源协议 数据隐私 模型许可证 出口管制
知识体系回顾 常见误区 学习资源推荐 社区参与