大语言模型基础:主流大模型介绍与核心概念
说实话,刚接触大语言模型那会儿,我也挺懵的。
市面上那么多模型——GPT、Claude、Gemini,到底有什么区别?Token 又是什么鬼?上下文窗口为啥那么重要?
别急,咱们一个一个捋清楚。
主流大模型:三足鼎立的格局
目前最主流的三个大模型,我习惯叫它们「三巨头」。每个我都实际用过,各有各的脾气。
GPT 系列(OpenAI)
GPT 是绕不开的存在。从 GPT-3.5 到 GPT-4,再到现在的 GPT-4o,我几乎见证了每一次迭代。
GPT 最大的特点是「全能」。写代码、做翻译、头脑风暴、逻辑推理……它都能干,而且干得不错。我个人习惯把 GPT 当作主力模型来处理复杂任务,尤其是需要多步推理的场景。
举个例子,我之前做一个数据分析项目,需要从一堆混乱的日志里提取关键信息并生成报表。GPT-4 的表现让我印象深刻——它不仅能理解上下文,还能自己纠正之前的错误。
注意: 免费版有使用限制,付费版价格不低。
Claude 系列(Anthropic)
Claude 是我最近越来越喜欢的模型。尤其是 Claude 3.5 Sonnet,在处理长文本和代码方面,我觉得它甚至比 GPT-4 更顺手。
Claude 有个特点——它特别「听话」。你给它设定角色和规则,它很少跑偏。我在项目中遇到过需要模型严格遵循输出格式的场景,Claude 的表现是最好的。
另外,Claude 的上下文窗口很大,这一点后面会细说。
Gemini 系列(Google)
Gemini 是 Google 的野心之作。它最大的优势是「多模态」——能直接理解图片、视频、音频,而不只是文字。
我记得有一次测试,我扔给 Gemini 一张复杂的架构图,它居然能准确描述出图中的组件关系和流程。这一点 GPT 和 Claude 目前还做不到这么自然。
不过说实话,Gemini 在中文理解和生成上,偶尔会有点「翻译腔」。嗯,这可能跟训练数据的分布有关。
| 模型 | 优势 | 适合场景 | 我的评分 |
|---|---|---|---|
| GPT-4o | 综合最强,生态完善 | 复杂推理、代码、写作 | ⭐⭐⭐⭐⭐ |
| Claude 3.5 | 长文本、指令遵循 | 文档分析、格式输出 | ⭐⭐⭐⭐⭐ |
| Gemini 1.5 | 多模态、超长上下文 | 图像理解、视频分析 | ⭐⭐⭐⭐ |
模型能力边界:别指望它无所不能
你想想看,大模型再厉害,它也有做不到的事。我刚开始做 Prompt 工程时,就犯过这个错——以为模型什么都知道。
第一,模型有知识截止日期。
GPT-4 的知识截止到 2023 年 4 月,Claude 3.5 到 2024 年初。你问它今天的热点新闻?它不知道。我建议在做时效性任务时,要么用联网搜索功能,要么手动提供最新资料。
第二,模型会「幻觉」。
说白了,就是编造事实。我曾经让模型解释一个不存在的 API 函数,它居然有模有样地编了一套参数说明出来。嗯,这很危险。
第三,模型缺乏真正的「理解」。
它只是根据概率预测下一个词,而不是真的「懂」你在说什么。所以遇到逻辑陷阱、反常识问题,模型很容易翻车。
Token:大模型的基本货币
Token 是什么?我打个比方你就明白了。
你把一句话拆成最小的单位,每个单位就是一个 Token。对于英文,一个 Token 大概是一个单词或子词。对于中文,一个 Token 大概是一个字或一个词。
举个例子:
输入:"今天天气真好"
Token 化:["今天", "天气", "真好"] → 3 个 Token
输入:"Hello, how are you?"
Token 化:["Hello", ",", " how", " are", " you", "?"] → 6 个 Token
为什么 Token 这么重要?因为——
- 计费按 Token 算: 你每次调用 API,花的钱就是 Token 数乘以单价。我见过有人一次对话花掉几十万 Token,账单直接爆炸。
- 输入输出都算 Token: 你给模型的指令、历史对话、模型返回的内容,全都要算 Token。
- 不同模型 Token 单价不同: GPT-4 比 GPT-3.5 贵 20 倍以上。
上下文窗口:模型的「短期记忆」
上下文窗口,就是模型一次能「记住」的最大 Token 数。你想想看,就像你的短期记忆——超过一定量,前面的内容就忘了。
不同模型的上下文窗口差异很大:
| 模型 | 上下文窗口 | 相当于多少字 |
|---|---|---|
| GPT-3.5 | 4K / 16K | 约 3000 / 12000 字 |
| GPT-4 | 8K / 32K / 128K | 约 6000 / 24000 / 96000 字 |
| Claude 3.5 | 200K | 约 150000 字 |
| Gemini 1.5 | 1M(百万) | 约 750000 字 |
为什么会这样?说白了,上下文窗口越大,模型的计算成本越高。你让模型记住 100 万字的内容,它处理起来就像扛着一座山在跑步。
我在项目中遇到过一个问题:用 GPT-4 处理一份 50 页的合同,结果模型到后面完全忘了前面提到的条款。后来换成 Claude 的 200K 窗口,才搞定。
如何选择模型?我的经验总结
说了这么多,到底怎么选?我给你几个实用建议:
- 日常对话、简单任务: GPT-3.5 或 Claude Haiku 就够了,便宜又快。
- 复杂推理、代码生成: GPT-4 或 Claude Sonnet,贵但值得。
- 超长文档分析: Claude 200K 或 Gemini 1.5,窗口大就是王道。
- 多模态任务(图片、视频): Gemini 1.5 是首选。
- 对输出格式有严格要求: Claude 的指令遵循能力最强。
最后说一句:没有最好的模型,只有最适合你场景的模型。我建议你每个都试试,花不了多少钱,但能帮你找到最趁手的工具。
嗯,这一章就到这里。下一章咱们聊聊 Prompt 的核心原则——怎么写指令,模型才听得懂。