4、模型管理命令:ollama list、ollama show、ollama cp、ollama rm 命令实战与场景应用
模型管理,说白了就是你怎么跟本地的大模型打交道。我见过不少新手,下载了一堆模型,最后连自己装了啥都搞不清楚。今天咱们就把 ollama list、ollama show、ollama cp、ollama rm 这四个命令彻底吃透。
4.1 先看看你手里有什么:ollama list
你装了多少模型?版本对不对?用 ollama list 一眼就能看穿。
ollama list
输出大概长这样:
NAME ID SIZE MODIFIED
llama3.2:1b 123abc456def 1.1 GB 2 days ago
llama3.2:3b 789ghi012jkl 2.3 GB 5 hours ago
qwen2.5:7b 345mno678pqr 4.7 GB 1 week ago
mistral:7b-instruct 901rst234uvw 4.1 GB 3 days ago
这里有个细节:NAME 列显示的是 模型名:标签。我个人习惯把标签当作版本号来用,比如 llama3.2:1b 和 llama3.2:3b 就是两个不同规模的版本。
ollama list | grep llama,只显示跟 llama 相关的模型。
4.2 深入模型内部:ollama show
ollama list 只能看到表面信息。想知道一个模型的具体配置、参数、甚至用了什么模板?那就得用 ollama show。
ollama show llama3.2:1b
输出内容很丰富:
Model
architecture llama
parameters 1.2B
context length 8192
embedding length 2048
quantization Q4_K_M
Parameters
stop "<|start_header_id|>","<|end_header_id|>","<|eot_id|>"
License
LLAMA 3.2 COMMUNITY LICENSE
嗯,这里要注意 context length 这个参数。它决定了模型一次能处理多长的文本。我在项目中遇到过,有人用默认的 2048 上下文去处理长文档,结果后半段内容完全丢失。所以每次部署前,我都会用 ollama show 确认一下上下文长度。
4.3 复制模型:ollama cp 的妙用
你可能会问:模型那么大,复制它干嘛?
举个例子。我经常需要针对不同场景微调同一个基础模型。比如 llama3.2:1b 既要做客服,又要做代码助手。直接改原始模型?风险太大。这时候 ollama cp 就派上用场了。
ollama cp llama3.2:1b llama3.2:1b-customer-service
ollama cp llama3.2:1b llama3.2:1b-code-assistant
复制完成后,你就有两个独立的模型副本了。一个专门调客服参数,一个专门调代码参数,互不干扰。
还有一个实用场景:备份。在调整模型参数之前,先复制一份原始版本。万一调坏了,还能快速回滚。
4.4 清理战场:ollama rm
模型越装越多,磁盘空间越来越小。这时候就需要 ollama rm 来打扫战场了。
ollama rm llama3.2:1b-customer-service
删除一个模型就这么简单。但要注意,ollama rm 是永久删除,不可恢复。我曾经手滑删错了模型,结果只能重新下载,白白浪费了几个小时。
- 先用
ollama list确认要删除的模型名 - 用
ollama show再确认一次,别删错了 - 最后执行
ollama rm
批量删除也很方便:
ollama rm llama3.2:1b-customer-service llama3.2:1b-code-assistant
或者用通配符?抱歉,ollama 目前不支持通配符删除。你得一个一个列出来。
4.5 四个命令的协作场景
光讲命令没意思,咱们来看一个真实的工作流。
假设你刚下载了一个新模型 qwen2.5:7b,想把它部署到生产环境:
- 查看状态:
ollama list确认模型已下载 - 检查配置:
ollama show qwen2.5:7b确认上下文长度、量化方式是否满足生产要求 - 复制备份:
ollama cp qwen2.5:7b qwen2.5:7b-prod创建一个生产专用副本 - 清理旧版:
ollama rm qwen2.5:7b-dev删除不再需要的开发版本
你看,四个命令串起来,就是一个完整的模型生命周期管理流程。
4.6 知识体系总览
下面这张图帮你理清这四个命令的关系:
4.7 避坑指南
最后分享几个我踩过的坑:
- 不要用 ollama rm 删除正在运行的模型。 虽然系统会提示你,但强制删除可能导致进程异常。先停掉服务再删。
- ollama cp 不支持跨机器复制。 它只能在本地复制。想迁移模型到另一台机器?老老实实重新下载或者手动拷贝模型文件。
- ollama show 的输出可能不完整。 有些模型作者没有填写完整的元数据。这时候可以看看模型的官方文档。
好了,这四个命令其实都不复杂。但用好它们,能让你的模型管理效率翻倍。下次咱们聊聊怎么调优模型参数,让模型跑得更快、更准。