4、安装Ollama:三种方式,总有一种适合你
好,到了真正动手的环节了。
安装Ollama其实没什么难度,但我见过不少新手在这步翻车。说白了,就是没搞清楚自己的环境适合哪种方式。今天我把三种主流方法都给你捋一遍,你根据实际情况选就行。
核心思路:能一键安装就别手动折腾,但手动安装能让你更清楚系统里发生了什么。
4.1 官方脚本一键安装(推荐,省心)
这是我最常用的方式。尤其你在Linux服务器上部署时,一行命令搞定,干净利落。
curl -fsSL https://ollama.com/install.sh | sh
嗯,就这么简单。脚本会自动检测你的操作系统、架构(x86_64还是ARM),然后下载对应的二进制文件。
脚本背后干了什么?我拆解给你看:
- 检测系统发行版(Ubuntu、Debian、CentOS等)
- 添加Ollama的APT/YUM源
- 安装依赖(如systemd服务文件)
- 启动ollama服务并设置开机自启
我的经验:如果你用的是Ubuntu 20.04+或CentOS 7+,一键安装基本不会出问题。我在生产环境里部署过几十台机器,只有一次因为系统时间不对导致证书验证失败——调了下NTP就好了。
4.2 手动安装与配置(适合离线环境)
有些场景下你没法联网,或者公司有安全策略不允许执行外部脚本。这时候就得手动来了。
第一步:下载二进制文件
去Ollama的GitHub Releases页面,找到对应你系统的版本。我一般选Linux amd64版本:
# 下载
wget https://github.com/ollama/ollama/releases/download/v0.1.39/ollama-linux-amd64
# 重命名并赋予执行权限
mv ollama-linux-amd64 ollama
chmod +x ollama
# 移动到系统PATH
sudo mv ollama /usr/local/bin/
第二步:配置systemd服务(推荐)
我个人习惯用systemd管理,这样服务崩溃了能自动重启。
sudo vim /etc/systemd/system/ollama.service
写入以下内容:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
[Install]
WantedBy=default.target
然后创建用户并启动:
sudo useradd -r -s /bin/false ollama
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama
我曾经踩过的坑:有次我忘了创建ollama用户,直接用root跑服务。结果模型下载到root目录下,权限乱成一团。后来排查了半天才发现是用户问题。所以,老老实实建个专用用户吧。
4.3 验证安装是否成功
装完了,怎么知道它跑起来了?三步走:
第一步:检查服务状态
systemctl status ollama
看到 active (running) 就对了。如果没启动,用 journalctl -u ollama -f 看日志,大部分问题都能从日志里找到线索。
第二步:测试API是否响应
curl http://localhost:11434/api/tags
返回一个JSON对象(即使没有模型,也会返回 {"models":[]}),说明服务正常。
第三步:拉个模型跑一下
这是最直观的验证方式。我习惯用 llama3.2:1b 测试,因为它小,下载快:
ollama pull llama3.2:1b
ollama run llama3.2:1b "你好,请用一句话介绍自己"
如果模型能正常回复,恭喜你,环境搭好了。
验证清单:
| 检查项 | 预期结果 | 失败怎么办 |
|---|---|---|
| 服务状态 | active (running) | 检查日志,确认端口未被占用 |
| API响应 | 返回JSON | 检查防火墙是否放行11434端口 |
| 模型推理 | 正常输出文本 | 检查磁盘空间、内存是否充足 |
4.4 本章知识体系
下面这张图帮你理清安装Ollama的整体脉络:
你看,整个流程其实就三个分支。选对方法,十分钟内就能跑起来。
最后说一句:安装完成后,我建议你立刻用 ollama list 看一眼。如果显示 NAME 和 SIZE 两列,说明一切正常。嗯,可以开始玩模型了。