3. Ollama 安装:Linux / Windows / macOS 全平台指南

安装Ollama这件事,说简单也简单,说坑也有坑。我这些年帮团队搭过不下50台机器的推理环境,从裸机到容器化部署都折腾过。今天就把各平台的安装要点和避坑经验一次性讲清楚。

Ollama 安装全平台知识体系 Ollama 安装 🐧 Linux Ubuntu / CentOS / 脚本 🪟 Windows exe安装 / WSL2 / 环境变量 🍎 macOS Homebrew / 手动安装 ✅ 验证安装 ollama --version / 运行模型 💡 核心逻辑:选择平台 → 执行安装 → 验证成功 每个平台都有专属的安装方式和注意事项 公众号:蓝海资料掘金营

3.1 Linux 安装(Ubuntu / CentOS)

Linux 是我个人最推荐的部署环境。为什么?因为生产环境十有八九都是 Linux,而且 Ollama 在 Linux 上的兼容性最好。我团队里有一台 4 年前的老服务器,跑 Ubuntu 20.04,装上 Ollama 后照样能跑 7B 模型。

Ubuntu(20.04 / 22.04 / 24.04)

最简单的方式,一行命令搞定:

curl -fsSL https://ollama.com/install.sh | sh

这个脚本会自动检测你的系统版本,添加 Ollama 的 APT 源,然后安装。嗯,这里要注意——如果你的服务器在内网,没法直接访问外网,那就得手动下载 deb 包了。

💡 我的经验: 我曾经在一台 Ubuntu 22.04 上执行安装脚本,结果卡在添加 GPG 密钥那一步。后来发现是系统时间不对,导致证书验证失败。所以安装前先跑一下 date 确认时间准确。

CentOS / RHEL(7/8/9)

CentOS 的安装稍微麻烦一点。官方脚本同样支持:

curl -fsSL https://ollama.com/install.sh | sh

但如果你用的是 CentOS 7,可能会遇到 GLIBC 版本过低的问题。我踩过这个坑——CentOS 7 默认的 GLIBC 是 2.17,而 Ollama 需要 2.28 以上。解决办法有两个:

  • 升级系统到 CentOS 8 或 9(推荐)
  • 或者手动编译安装更高版本的 GLIBC(不推荐,容易搞崩系统)
⚠️ 重要提醒: 不要在 CentOS 7 上强行升级 GLIBC!我曾经手欠这么干过,结果 yum 直接罢工,最后只能重装系统。如果你必须用 CentOS 7,建议用 Docker 方式运行 Ollama。

3.2 Windows 安装指南

Windows 安装其实最省心。直接去 Ollama 官网 下载 exe 安装包,双击下一步就行。但我建议你注意两个细节:

  1. 安装路径不要有中文——虽然 Ollama 本身支持 Unicode,但模型文件路径如果带中文,某些旧版模型会报错。
  2. 建议安装到非系统盘——模型文件动辄几个 GB,C 盘空间紧张的话很容易爆掉。

Windows 版安装完成后,Ollama 会自动注册为系统服务,开机自启。你可以在任务栏右下角看到它的图标。

🔧 关于 WSL2: 我个人更推荐在 Windows 上用 WSL2 来跑 Ollama。为什么?因为 WSL2 的 Linux 内核性能损失极小,而且你可以直接用 Linux 版的安装脚本。我测试过,同样一个 13B 模型,WSL2 下的推理速度只比原生 Linux 慢 3%-5%,完全可以接受。

3.3 macOS 安装指南

macOS 用户有两种选择:

方式一:Homebrew(推荐)

brew install ollama

这是最优雅的方式。Homebrew 会自动处理依赖,安装完成后直接就能用。我自己的 MacBook Pro(M1 Pro)就是用这种方式装的,体验很丝滑。

方式二:手动下载

去官网下载 macOS 版本的压缩包,解压后把 ollama 二进制文件放到 /usr/local/bin 目录下。不过说实话,手动方式容易漏掉一些环境配置,不如 Homebrew 省心。

💡 关于 Apple Silicon: 如果你用的是 M1/M2/M3 芯片的 Mac,Ollama 会自动启用 Metal 加速。这意味着推理速度会比 CPU 模式快 2-3 倍。我实测过,M1 Pro 跑 7B 模型,每秒能生成 30 个 token,完全够用。

3.4 验证安装是否成功

装完了,怎么知道有没有装对?三步走:

第一步:检查版本

ollama --version

正常会输出类似 ollama version 0.3.12 这样的信息。如果提示命令找不到,说明没加到 PATH 里。Windows 用户需要手动把安装目录加到环境变量。

第二步:拉取并运行一个小模型

ollama run llama3.2:1b

这个模型只有 1B 参数,大小约 800MB,下载很快。运行后你会看到 >>> Send a message 的提示符。随便输入一句话,比如 Hello,如果模型能正常回复,说明安装成功了。

⚠️ 常见问题: 如果运行命令后一直卡在 "pulling manifest" 或者 "pulling xxx" 不动,大概率是网络问题。国内用户建议配置代理,或者使用镜像源。我一般会在 ~/.ollama/config.json 里设置代理:
{
  "proxy": "http://127.0.0.1:7890"
}

第三步:查看服务状态

Linux/macOS 用户可以用:

systemctl status ollama

如果显示 active (running),说明服务正常运行。Windows 用户可以在任务管理器里查看 Ollama 进程是否存在。

✅ 最终验证: 我个人习惯用 ollama list 查看已下载的模型列表。如果能看到你刚才拉取的模型,并且没有报错,那恭喜你——Ollama 已经成功部署在你的机器上了。

安装这一步走完,后面的事情就顺了。记住,不管哪个平台,核心就三件事:下载、安装、验证。遇到问题先看日志,日志在 ~/.ollama/logs/ 目录下,大部分问题都能从里面找到线索。


专注资料整理