第1章 Ollama简介与安装

1、Ollama简介与安装：Ollama是什么、为什么需要版本管理、Ollama的安装与基本配置

1.1 Ollama到底是什么？

先说说Ollama是什么吧。简单来说，它是一个让你能在本地跑大语言模型的工具。你想想看，以前我们要用GPT、Llama这些模型，要么花钱调API，要么自己搭一套复杂的环境。Ollama把这层窗户纸捅破了——一条命令就能下载、运行、管理各种开源模型。

我个人习惯把Ollama比作「Docker for LLM」。它把模型打包成可运行的容器，你不需要关心底层依赖、CUDA版本、Python环境这些乱七八糟的东西。说白了，它就是个模型运行时的管理器。

核心能力：

一键下载和运行开源模型（Llama、Mistral、Qwen等）
提供REST API接口，方便集成到应用中
支持GPU加速，也支持纯CPU运行
模型版本管理——这就是我们今天要聊的重点

1.2 为什么需要版本管理？

这个问题我问过不少刚接触Ollama的同事。他们的第一反应往往是：「模型不就是下载下来直接用吗？版本管理有啥必要？」

嗯，我在项目中遇到过这么一件事。去年我们团队用Ollama部署了一个客服问答系统，用的是Llama 2的某个版本。运行了两个月，一切正常。后来有个新需求，我们升级了模型版本。结果呢？同样的prompt，回答风格完全变了，有些业务逻辑甚至出现了偏差。回滚？当时没做版本记录，只能重新下载旧版本，折腾了大半天。

为什么会这样？因为大模型不是传统软件，它的行为是「概率性」的。同一个模型的不同版本，可能在安全性、输出格式、知识边界上都有差异。你想想看，如果生产环境出了问题，不能快速回滚到稳定版本，那损失可不小。

版本管理的核心价值：

可追溯：知道当前跑的是哪个模型、哪个版本、谁部署的
可回滚：出问题能秒级切回旧版本，不用重新下载
可对比：不同版本的效果差异，方便做A/B测试
可审计：合规要求下，需要记录模型变更历史

我曾经踩过的坑：有一次我直接覆盖了模型文件，结果旧版本彻底找不回来了。后来我养成了一个习惯——每次更新模型前，先用 ollama list 查看当前版本，再用 ollama cp 打个快照。这个习惯救了我好几次。

1.3 Ollama的安装与基本配置

安装Ollama其实很简单。我建议你直接去官网下载对应系统的安装包。不过这里我分享几个我常用的方式。

Linux安装（我最推荐的方式）

# 一行命令搞定
curl -fsSL https://ollama.com/install.sh | sh

# 安装完成后验证
ollama --version

这条命令会自动检测你的系统架构、GPU驱动情况。我在Ubuntu 22.04和CentOS 7上都试过，基本没有遇到问题。如果你用的是老版本系统，可能会提示缺少glibc依赖，这时候手动装一下就行。

macOS安装

# 用Homebrew
brew install ollama

# 或者直接下载.dmg安装包

macOS上我建议用Homebrew，方便后续升级。不过要注意，M系列芯片的Mac默认走GPU加速，Intel芯片的Mac只能用CPU，速度会慢一些。

Windows安装

Windows用户直接下载exe安装包就行。安装完成后，Ollama会作为后台服务运行。我个人不太推荐在Windows上跑生产环境，但做实验和开发完全够用。

1.4 基本配置与验证

安装完成后，我们需要做一些基本配置。先看看Ollama的服务状态：

# 查看服务是否运行
systemctl status ollama

# 如果没启动，手动启动
systemctl start ollama

# 设置开机自启
systemctl enable ollama

然后下载一个模型试试手：

# 下载并运行Llama 3.2（1B参数，轻量级）
ollama run llama3.2:1b

# 或者用Qwen2.5（中文友好）
ollama run qwen2.5:1.5b

第一次运行会自动下载模型，大概几百MB到几个GB不等，取决于模型大小。下载完成后，你会进入交互式对话界面。随便问个问题，看看模型能不能正常回答。

小技巧：如果你在公司内网，下载模型可能会很慢。可以设置镜像源：

# 设置环境变量
export OLLAMA_HOST="http://你的镜像地址:11434"

或者直接用 ollama pull 指定镜像：

ollama pull llama3.2:1b --mirror http://mirror.example.com

1.5 验证安装是否成功

跑一个简单的测试：

# 查看已下载的模型列表
ollama list

# 查看模型详细信息
ollama show llama3.2:1b

# 测试API是否正常
curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2:1b",
  "prompt": "你好，请用一句话介绍自己"
}'

如果返回了正常的JSON响应，说明Ollama已经安装配置成功。这时候你就可以开始玩模型了。

1.6 本章知识体系

下面这张图展示了Ollama的核心架构和我们今天讲的内容之间的关系：

从这张图你可以看到，版本管理层处于用户和模型运行时之间，起到了承上启下的作用。没有这一层，你每次操作模型都是「盲人摸象」——不知道当前版本是什么，出了问题也不知道怎么恢复。

本章小结：

Ollama是本地运行大模型的利器，一条命令就能搞定
版本管理不是锦上添花，而是生产环境的必需品
安装过程很简单，但别忘了做基本配置和验证
记住：每次操作模型前，先看看当前版本，打个快照

好了，这一章的内容就到这里。下一章我们会深入Ollama的模型存储结构，看看那些模型文件到底是怎么组织的。到时候我会分享一些我实际排查问题时的经验，保证有用。

公众号:蓝海资料掘金营，微信deep3321