Ollama 入门：从零开始搭建你的本地大模型环境

说实话，我第一次接触 Ollama 的时候，心里想的是：「又一个包装过的工具？」

但用了一个下午之后，我改变了看法。这玩意儿，是真的能帮你省掉大量折腾时间。

今天我们就来聊聊 Ollama 到底是什么，它凭什么值得你花时间学习，以及怎么把它装到你的机器上。

Ollama 是什么？

简单说，Ollama 是一个让你在本地跑大语言模型的工具。不是云端调用，不是 API 代理，就是实实在在跑在你自己的电脑上。

我习惯把它理解成「大模型的 Docker」。你想想看，Docker 让你一键部署应用，Ollama 让你一键部署模型。下载、运行、管理，全在一个命令行里搞定。

它支持 Llama、Mistral、Gemma、Qwen 等主流开源模型。你不需要懂 CUDA、不用配 Python 环境、不用纠结依赖冲突。一条命令，模型就跑起来了。

Ollama 的核心优势

我总结了几点，都是我在实际项目中踩过坑之后才真正理解的：

• 极简安装：下载一个安装包，下一步下一步就完事。不像某些框架，装完还得配半天环境变量。
• 模型管理一体化：下载、运行、删除、查看，全用 ollama 命令搞定。我曾经用 Python 脚本管理模型，目录乱成一锅粥，后来全换成 Ollama，清爽多了。
• 开箱即用的 API：Ollama 自带 REST API，默认跑在 11434 端口。你写个 curl 就能调模型，不用自己搭 Flask 服务。
• 跨平台支持：macOS、Linux、Windows 都能跑。我在 MacBook 上开发，在 Linux 服务器上部署，同一套命令无缝切换。
• Modelfile 自定义：你可以像写 Dockerfile 一样写 Modelfile，调整温度、上下文长度、系统提示词。这个后面我们会详细讲。

Ollama 的安装与配置

安装过程其实没什么好说的，但我还是把关键步骤列出来，免得你走弯路。

macOS

直接去官网下载 .dmg 文件，拖到 Applications 文件夹就行。或者用 Homebrew：

brew install ollama

Linux

一条命令搞定：

curl -fsSL https://ollama.com/install.sh | sh

嗯，这里要注意。如果你在服务器上跑，建议先确认一下有没有 GPU 驱动。我遇到过几次装完 Ollama 但模型跑在 CPU 上的情况，速度慢得让人抓狂。

Windows

下载安装包，双击安装。Windows 用户记得把 Ollama 添加到系统 PATH，不然命令行找不到命令。

验证安装

装完之后，打开终端，输入：

ollama --version

如果看到版本号，说明安装成功。没看到？检查一下环境变量，或者重启终端试试。

Ollama 的基本命令

这部分是重点。我把最常用的命令列出来，你照着敲一遍就熟了。

命令	作用	示例
ollama pull <模型名>	下载模型	ollama pull llama3.2
ollama run <模型名>	运行模型并进入交互模式	ollama run llama3.2
ollama list	查看已下载的模型列表	ollama list
ollama rm <模型名>	删除模型	ollama rm llama3.2
ollama serve	启动 API 服务	ollama serve
ollama create <自定义名> -f ./Modelfile	从 Modelfile 创建自定义模型	ollama create mymodel -f ./Modelfile

我个人最常用的是 ollama run。你想想看，一条命令就能跟 Llama 3 聊天，这在以前得折腾半天。

实战：跑一个模型试试

# 下载 Llama 3.2（1B 参数版本，适合笔记本）
ollama pull llama3.2:1b

# 运行它
ollama run llama3.2:1b

# 进入交互模式后，直接输入问题
>>> 你好，请介绍一下你自己。

模型会开始生成回答。第一次运行会慢一点，因为要加载模型到内存。之后就会快很多。

知识体系总览

下面这张图，是我梳理的 Ollama 入门知识结构。你看一眼，心里就有谱了。

这张图把今天的内容串起来了。你从「是什么」开始，理解核心优势，然后动手安装，最后用命令跑起来。每一步都踩实了，后面微调的时候才不会慌。

---