1. Ollama初识：什么是Ollama、Ollama的核心优势、Ollama的安装与配置
大家好，我是这门课的主讲人。今天咱们来聊聊Ollama——这个让我在AI落地过程中眼前一亮的小工具。
说实话，我第一次接触大模型的时候，头都大了。各种框架、依赖、GPU驱动、Python环境……折腾一整天，模型还没跑起来。直到我遇到了Ollama，嗯，这玩意儿确实改变了我的工作方式。
1.1 什么是Ollama？
Ollama，说白了就是一个让你能在本地跑大语言模型的工具。它把Llama、Mistral、Gemma这些模型打包成一个个可以直接运行的“容器”。你不需要懂深度学习框架，不需要配置CUDA，甚至不需要写代码。
我打个比方：以前跑大模型就像自己组装电脑——你得选CPU、显卡、内存，还得会装系统。Ollama呢？就像买个品牌机，开机就能用。
它的核心逻辑很简单：
- 模型管理：下载、运行、删除模型，一条命令搞定
- API服务：自动暴露RESTful API，方便其他应用调用
- 跨平台：Windows、Mac、Linux全支持
核心概念：Ollama本质上是一个模型运行时环境 + 模型仓库。它把模型文件、推理引擎、依赖库打包在一起，你只需要关心“我要用哪个模型”，剩下的交给它。
1.2 Ollama的核心优势
我为什么在众多工具中选择了Ollama？来，我给你列几个让我心动的点：
1.2.1 极简安装
下载一个安装包，下一步下一步，完事。我在Mac上装过，从下载到跑起第一个模型，不到5分钟。这在以前简直不敢想。
1.2.2 模型一键下载
想用Llama 3？一条命令：
ollama pull llama3想用Mistral？同样：
ollama pull mistral模型自动下载、自动配置、自动优化。我曾经为了部署一个模型，写过30多行的Dockerfile……现在想想，真是走了弯路。
1.2.3 开箱即用的API
模型跑起来后，Ollama会自动在本地启动一个HTTP服务。你可以用curl、Python、JavaScript直接调用：
curl http://localhost:11434/api/generate -d '{
"model": "llama3",
"prompt": "你好，请介绍一下你自己"
}'这意味着什么？意味着你可以用任何语言、任何框架来对接大模型。我在项目中就用它快速搭建了一个智能客服原型，前后端联调只花了一个下午。
1.2.4 资源占用低
Ollama对硬件的要求很友好。我的老款MacBook Pro（16GB内存）跑7B模型完全没问题。它支持CPU推理，也支持GPU加速。你想想看，没有高端显卡也能玩大模型，这多香。
1.2.5 模型生态丰富
Ollama官方仓库里有上百个模型，从轻量级的TinyLlama到强大的Llama 3 70B，应有尽有。而且社区还在不断贡献新模型。
我的建议：刚开始玩Ollama，先从7B参数量的模型入手。比如Llama 3 8B或者Mistral 7B。这些模型在消费级硬件上跑得动，效果也够用。别一上来就搞70B，除非你有专业显卡。
1.3 Ollama的安装与配置
好，理论说完了，咱们来点实际的。我分别讲讲三个平台的安装方法。
1.3.1 Windows安装
Windows最简单，直接去官网下载安装包就行。但我提醒你一点：
- 访问
ollama.com，点击Download - 选择Windows版本，下载
OllamaSetup.exe - 双击安装，一路Next
- 安装完成后，打开命令行（CMD或PowerShell）
- 输入
ollama --version验证安装
避坑指南：我曾经在Windows上遇到过路径问题。Ollama默认安装在C盘，如果你的C盘空间紧张，建议在安装时选择其他盘符。另外，Windows Defender可能会拦截Ollama的网络请求，记得添加白名单。
1.3.2 Mac安装
Mac用户有福了，安装过程丝滑得像巧克力：
# 方式一：直接下载安装包
# 访问 ollama.com 下载 macOS 版本
# 方式二：使用 Homebrew（我推荐这种方式）
brew install ollama我个人习惯用Homebrew，因为后续更新方便：
brew upgrade ollama安装完成后，启动Ollama服务：
ollama serve然后新开一个终端窗口，拉取模型：
ollama pull llama31.3.3 Linux安装
Linux用户，一条命令搞定：
curl -fsSL https://ollama.com/install.sh | sh这个脚本会自动检测你的发行版，安装依赖，配置服务。我在Ubuntu 22.04和CentOS 7上都试过，一次成功。
安装完成后，启动服务：
systemctl start ollama
systemctl enable ollama # 设置开机自启1.3.4 验证安装
不管哪个平台，安装完成后都做这几步验证：
- 检查版本：
ollama --version - 拉取模型：
ollama pull llama3 - 运行模型：
ollama run llama3 - 在模型对话界面输入
你好，看它能不能正常回复
小技巧：第一次拉取模型会比较慢，因为要下载几个GB的文件。建议用个好点的网络环境。如果下载中断，重新执行 ollama pull 会断点续传，不用担心从头再来。
1.4 Ollama的核心架构
为了让你更直观地理解Ollama的工作原理，我画了一张架构图：
这张图很清楚地展示了Ollama的三层架构：
- 用户层：你通过命令行、API或者SDK与Ollama交互
- 核心引擎：负责模型管理、推理计算、API服务
- 模型仓库：存储各种开源大模型
这种分层设计的好处是——各层职责清晰，互不干扰。你不需要关心底层模型是怎么加载的，也不需要操心推理引擎怎么优化。Ollama全帮你搞定了。
1.5 我的第一印象
说实话，我第一次用Ollama的时候，心里是有点怀疑的。一个工具能这么简单？结果试完之后，我服了。
我记得很清楚，当时我在做一个智能文档问答系统。客户要求必须本地部署，不能上云。我试了好几个方案，要么配置太复杂，要么对硬件要求太高。最后用Ollama + LangChain，三天就搞定了原型。
所以如果你问我：新手入门大模型，该选什么工具？我的答案永远是——先试试Ollama。它不会让你失望的。
本章小结：Ollama是一个让你在本地轻松运行大语言模型的工具。它的核心优势是极简安装、一键下载模型、开箱即用的API、低资源占用和丰富的模型生态。无论你用Windows、Mac还是Linux，都能在几分钟内完成安装并跑起第一个模型。
公众号:蓝海资料掘金营，微信deep3321