Ollama 模型管理与调优 · 全攻略目录

01

什么是Ollama · 核心优势 · 安装与卸载 (Win/Mac/Linux)

入门安装

02

模型仓库探秘

模型生态 · 拉取模型 · Tags 含义与选择

仓库标签

03

模型运行基础

ollama run · 交互模式 · 退出/切换 · 运行状态

运行CLI

04

模型管理命令

list · show · cp · rm 实战与场景应用

管理运维

05

Modelfile 入门

语法 · FROM · PARAMETER · TEMPLATE 指令

Modelfile自定义

06

Modelfile 高级配置

LICENSE · MESSAGE · ADAPTER · 系统提示词

进阶适配器

07

模型参数调优 (上)

温度 · num_ctx · Top-P / Top-K 详解

调参采样

08

模型参数调优 (下)

重复惩罚 · 频率/存在惩罚 · stop · Mirostat

调参高级

09

创建自定义模型

ollama create · Modelfile 构建 · GGUF 导入

构建GGUF

10

模型导出与分享

ollama push · 私有仓库 · 导出 GGUF

分享导出

11

Ollama API 入门

REST API 概览 · 启动服务 · curl 调用生成

APIcurl

12

API 高级用法

流式输出 · 结构化输出 · 多轮对话 messages

流式JSON

13

API 集成实战

Python requests · LangChain 集成 Ollama

PythonLangChain

14

并发与性能

并发请求 · 批处理 · GPU/CPU 推理对比

性能GPU

15

模型量化技术

量化概念 · GGUF 级别对比 · 如何选择

量化GGUF

16

ollama 量化 · llama.cpp 量化 · 性能评估

实战llama.cpp

17

LoRA 微调基础

LoRA 原理 · 准备数据集 · unsloth 微调

微调LoRA

18

LoRA 模型部署

导出 GGUF · Ollama 加载 · Modelfile ADAPTER

部署适配器

19

模型评估方法

lm-evaluation-harness · 自定义评估 · 困惑度

评估Perplexity

20

Prompt 工程优化

系统提示词 · Few-shot · Chain-of-Thought

Prompt技巧

21

上下文窗口管理

长文本策略 · 滑动窗口 · 压缩与摘要

上下文窗口

22

Ollama 配置文件

服务配置 · 环境变量 · 日志与调试

配置环境

23

多模型管理

同时运行多模型 · 热切换 · 资源分配

多模型调度

24

Ollama 与 Docker

Docker 部署 · Compose 编排 · GPU 直通

Docker容器

25

安全与权限

API 访问控制 · 文件权限 · 敏感信息过滤

安全权限

26

性能监控与调优

nvidia-smi · Ollama 指标 · 内存/显存优化

监控GPU

27

常见问题排查

加载失败 · OOM · API 超时与重试

排错OOM

28

Ollama 插件生态

Open WebUI · VS Code · Home Assistant

插件WebUI

29

企业级部署

高可用 · 负载均衡 · 模型缓存与预热

企业架构

30

综合实战项目

智能客服系统 · 模型选择/调优/部署/监控

实战全流程