4、安装Ollama:三种方式,总有一种适合你

好,到了真正动手的环节了。

安装Ollama其实没什么难度,但我见过不少新手在这步翻车。说白了,就是没搞清楚自己的环境适合哪种方式。今天我把三种主流方法都给你捋一遍,你根据实际情况选就行。

核心思路:能一键安装就别手动折腾,但手动安装能让你更清楚系统里发生了什么。

4.1 官方脚本一键安装(推荐,省心)

这是我最常用的方式。尤其你在Linux服务器上部署时,一行命令搞定,干净利落。

curl -fsSL https://ollama.com/install.sh | sh

嗯,就这么简单。脚本会自动检测你的操作系统、架构(x86_64还是ARM),然后下载对应的二进制文件。

脚本背后干了什么?我拆解给你看:

  • 检测系统发行版(Ubuntu、Debian、CentOS等)
  • 添加Ollama的APT/YUM源
  • 安装依赖(如systemd服务文件)
  • 启动ollama服务并设置开机自启

我的经验:如果你用的是Ubuntu 20.04+或CentOS 7+,一键安装基本不会出问题。我在生产环境里部署过几十台机器,只有一次因为系统时间不对导致证书验证失败——调了下NTP就好了。

4.2 手动安装与配置(适合离线环境)

有些场景下你没法联网,或者公司有安全策略不允许执行外部脚本。这时候就得手动来了。

第一步:下载二进制文件

去Ollama的GitHub Releases页面,找到对应你系统的版本。我一般选Linux amd64版本:

# 下载
wget https://github.com/ollama/ollama/releases/download/v0.1.39/ollama-linux-amd64

# 重命名并赋予执行权限
mv ollama-linux-amd64 ollama
chmod +x ollama

# 移动到系统PATH
sudo mv ollama /usr/local/bin/

第二步:配置systemd服务(推荐)

我个人习惯用systemd管理,这样服务崩溃了能自动重启。

sudo vim /etc/systemd/system/ollama.service

写入以下内容:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3

[Install]
WantedBy=default.target

然后创建用户并启动:

sudo useradd -r -s /bin/false ollama
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama

我曾经踩过的坑:有次我忘了创建ollama用户,直接用root跑服务。结果模型下载到root目录下,权限乱成一团。后来排查了半天才发现是用户问题。所以,老老实实建个专用用户吧。

4.3 验证安装是否成功

装完了,怎么知道它跑起来了?三步走:

第一步:检查服务状态

systemctl status ollama

看到 active (running) 就对了。如果没启动,用 journalctl -u ollama -f 看日志,大部分问题都能从日志里找到线索。

第二步:测试API是否响应

curl http://localhost:11434/api/tags

返回一个JSON对象(即使没有模型,也会返回 {"models":[]}),说明服务正常。

第三步:拉个模型跑一下

这是最直观的验证方式。我习惯用 llama3.2:1b 测试,因为它小,下载快:

ollama pull llama3.2:1b
ollama run llama3.2:1b "你好,请用一句话介绍自己"

如果模型能正常回复,恭喜你,环境搭好了。

验证清单:

检查项 预期结果 失败怎么办
服务状态 active (running) 检查日志,确认端口未被占用
API响应 返回JSON 检查防火墙是否放行11434端口
模型推理 正常输出文本 检查磁盘空间、内存是否充足

4.4 本章知识体系

下面这张图帮你理清安装Ollama的整体脉络:

Ollama安装流程 官方脚本一键安装 curl 管道 sh 自动检测系统架构 配置源 + 安装依赖 启动服务 + 开机自启 手动安装与配置 下载二进制文件 赋予执行权限 配置systemd服务 创建专用用户启动 验证安装成功 检查服务状态 测试API响应 拉取模型推理 三种方式选其一,推荐联网环境用一键安装

你看,整个流程其实就三个分支。选对方法,十分钟内就能跑起来。

最后说一句:安装完成后,我建议你立刻用 ollama list 看一眼。如果显示 NAMESIZE 两列,说明一切正常。嗯,可以开始玩模型了。


专注资料整理