3. Ollama 安装:Linux / Windows / macOS 全平台指南
安装Ollama这件事,说简单也简单,说坑也有坑。我这些年帮团队搭过不下50台机器的推理环境,从裸机到容器化部署都折腾过。今天就把各平台的安装要点和避坑经验一次性讲清楚。
3.1 Linux 安装(Ubuntu / CentOS)
Linux 是我个人最推荐的部署环境。为什么?因为生产环境十有八九都是 Linux,而且 Ollama 在 Linux 上的兼容性最好。我团队里有一台 4 年前的老服务器,跑 Ubuntu 20.04,装上 Ollama 后照样能跑 7B 模型。
Ubuntu(20.04 / 22.04 / 24.04)
最简单的方式,一行命令搞定:
curl -fsSL https://ollama.com/install.sh | sh
这个脚本会自动检测你的系统版本,添加 Ollama 的 APT 源,然后安装。嗯,这里要注意——如果你的服务器在内网,没法直接访问外网,那就得手动下载 deb 包了。
date 确认时间准确。
CentOS / RHEL(7/8/9)
CentOS 的安装稍微麻烦一点。官方脚本同样支持:
curl -fsSL https://ollama.com/install.sh | sh
但如果你用的是 CentOS 7,可能会遇到 GLIBC 版本过低的问题。我踩过这个坑——CentOS 7 默认的 GLIBC 是 2.17,而 Ollama 需要 2.28 以上。解决办法有两个:
- 升级系统到 CentOS 8 或 9(推荐)
- 或者手动编译安装更高版本的 GLIBC(不推荐,容易搞崩系统)
3.2 Windows 安装指南
Windows 安装其实最省心。直接去 Ollama 官网 下载 exe 安装包,双击下一步就行。但我建议你注意两个细节:
- 安装路径不要有中文——虽然 Ollama 本身支持 Unicode,但模型文件路径如果带中文,某些旧版模型会报错。
- 建议安装到非系统盘——模型文件动辄几个 GB,C 盘空间紧张的话很容易爆掉。
Windows 版安装完成后,Ollama 会自动注册为系统服务,开机自启。你可以在任务栏右下角看到它的图标。
🔧 关于 WSL2: 我个人更推荐在 Windows 上用 WSL2 来跑 Ollama。为什么?因为 WSL2 的 Linux 内核性能损失极小,而且你可以直接用 Linux 版的安装脚本。我测试过,同样一个 13B 模型,WSL2 下的推理速度只比原生 Linux 慢 3%-5%,完全可以接受。
3.3 macOS 安装指南
macOS 用户有两种选择:
方式一:Homebrew(推荐)
brew install ollama
这是最优雅的方式。Homebrew 会自动处理依赖,安装完成后直接就能用。我自己的 MacBook Pro(M1 Pro)就是用这种方式装的,体验很丝滑。
方式二:手动下载
去官网下载 macOS 版本的压缩包,解压后把 ollama 二进制文件放到 /usr/local/bin 目录下。不过说实话,手动方式容易漏掉一些环境配置,不如 Homebrew 省心。
3.4 验证安装是否成功
装完了,怎么知道有没有装对?三步走:
第一步:检查版本
ollama --version
正常会输出类似 ollama version 0.3.12 这样的信息。如果提示命令找不到,说明没加到 PATH 里。Windows 用户需要手动把安装目录加到环境变量。
第二步:拉取并运行一个小模型
ollama run llama3.2:1b
这个模型只有 1B 参数,大小约 800MB,下载很快。运行后你会看到 >>> Send a message 的提示符。随便输入一句话,比如 Hello,如果模型能正常回复,说明安装成功了。
~/.ollama/config.json 里设置代理:
{
"proxy": "http://127.0.0.1:7890"
}
第三步:查看服务状态
Linux/macOS 用户可以用:
systemctl status ollama
如果显示 active (running),说明服务正常运行。Windows 用户可以在任务管理器里查看 Ollama 进程是否存在。
✅ 最终验证: 我个人习惯用 ollama list 查看已下载的模型列表。如果能看到你刚才拉取的模型,并且没有报错,那恭喜你——Ollama 已经成功部署在你的机器上了。
安装这一步走完,后面的事情就顺了。记住,不管哪个平台,核心就三件事:下载、安装、验证。遇到问题先看日志,日志在 ~/.ollama/logs/ 目录下,大部分问题都能从里面找到线索。