大语言模型基础:主流大模型介绍与核心概念

说实话,刚接触大语言模型那会儿,我也挺懵的。

市面上那么多模型——GPT、Claude、Gemini,到底有什么区别?Token 又是什么鬼?上下文窗口为啥那么重要?

别急,咱们一个一个捋清楚。

主流大模型:三足鼎立的格局

目前最主流的三个大模型,我习惯叫它们「三巨头」。每个我都实际用过,各有各的脾气。

GPT 系列(OpenAI)

GPT 是绕不开的存在。从 GPT-3.5 到 GPT-4,再到现在的 GPT-4o,我几乎见证了每一次迭代。

GPT 最大的特点是「全能」。写代码、做翻译、头脑风暴、逻辑推理……它都能干,而且干得不错。我个人习惯把 GPT 当作主力模型来处理复杂任务,尤其是需要多步推理的场景。

举个例子,我之前做一个数据分析项目,需要从一堆混乱的日志里提取关键信息并生成报表。GPT-4 的表现让我印象深刻——它不仅能理解上下文,还能自己纠正之前的错误。

核心优势: 综合能力强,生态完善,API 稳定。
注意: 免费版有使用限制,付费版价格不低。

Claude 系列(Anthropic)

Claude 是我最近越来越喜欢的模型。尤其是 Claude 3.5 Sonnet,在处理长文本和代码方面,我觉得它甚至比 GPT-4 更顺手。

Claude 有个特点——它特别「听话」。你给它设定角色和规则,它很少跑偏。我在项目中遇到过需要模型严格遵循输出格式的场景,Claude 的表现是最好的。

另外,Claude 的上下文窗口很大,这一点后面会细说。

我的建议: 如果你需要处理超长文档,或者对输出格式有严格要求,优先考虑 Claude。

Gemini 系列(Google)

Gemini 是 Google 的野心之作。它最大的优势是「多模态」——能直接理解图片、视频、音频,而不只是文字。

我记得有一次测试,我扔给 Gemini 一张复杂的架构图,它居然能准确描述出图中的组件关系和流程。这一点 GPT 和 Claude 目前还做不到这么自然。

不过说实话,Gemini 在中文理解和生成上,偶尔会有点「翻译腔」。嗯,这可能跟训练数据的分布有关。

模型 优势 适合场景 我的评分
GPT-4o 综合最强,生态完善 复杂推理、代码、写作 ⭐⭐⭐⭐⭐
Claude 3.5 长文本、指令遵循 文档分析、格式输出 ⭐⭐⭐⭐⭐
Gemini 1.5 多模态、超长上下文 图像理解、视频分析 ⭐⭐⭐⭐

模型能力边界:别指望它无所不能

你想想看,大模型再厉害,它也有做不到的事。我刚开始做 Prompt 工程时,就犯过这个错——以为模型什么都知道。

第一,模型有知识截止日期。

GPT-4 的知识截止到 2023 年 4 月,Claude 3.5 到 2024 年初。你问它今天的热点新闻?它不知道。我建议在做时效性任务时,要么用联网搜索功能,要么手动提供最新资料。

第二,模型会「幻觉」。

说白了,就是编造事实。我曾经让模型解释一个不存在的 API 函数,它居然有模有样地编了一套参数说明出来。嗯,这很危险。

避坑指南: 对于事实性内容,尤其是数字、日期、引用,一定要交叉验证。不要盲目相信模型的输出。

第三,模型缺乏真正的「理解」。

它只是根据概率预测下一个词,而不是真的「懂」你在说什么。所以遇到逻辑陷阱、反常识问题,模型很容易翻车。

Token:大模型的基本货币

Token 是什么?我打个比方你就明白了。

你把一句话拆成最小的单位,每个单位就是一个 Token。对于英文,一个 Token 大概是一个单词或子词。对于中文,一个 Token 大概是一个字或一个词。

举个例子:

输入:"今天天气真好"
Token 化:["今天", "天气", "真好"]  → 3 个 Token

输入:"Hello, how are you?"
Token 化:["Hello", ",", " how", " are", " you", "?"]  → 6 个 Token

为什么 Token 这么重要?因为——

  • 计费按 Token 算: 你每次调用 API,花的钱就是 Token 数乘以单价。我见过有人一次对话花掉几十万 Token,账单直接爆炸。
  • 输入输出都算 Token: 你给模型的指令、历史对话、模型返回的内容,全都要算 Token。
  • 不同模型 Token 单价不同: GPT-4 比 GPT-3.5 贵 20 倍以上。
省钱小技巧: 在 Prompt 里尽量精简指令,去掉不必要的修饰词。我习惯先写完整版本,再逐句压缩,能省 30% 的 Token。

上下文窗口:模型的「短期记忆」

上下文窗口,就是模型一次能「记住」的最大 Token 数。你想想看,就像你的短期记忆——超过一定量,前面的内容就忘了。

不同模型的上下文窗口差异很大:

模型 上下文窗口 相当于多少字
GPT-3.5 4K / 16K 约 3000 / 12000 字
GPT-4 8K / 32K / 128K 约 6000 / 24000 / 96000 字
Claude 3.5 200K 约 150000 字
Gemini 1.5 1M(百万) 约 750000 字

为什么会这样?说白了,上下文窗口越大,模型的计算成本越高。你让模型记住 100 万字的内容,它处理起来就像扛着一座山在跑步。

我在项目中遇到过一个问题:用 GPT-4 处理一份 50 页的合同,结果模型到后面完全忘了前面提到的条款。后来换成 Claude 的 200K 窗口,才搞定。

注意: 上下文窗口越大,不代表模型就越好。大窗口会导致「注意力分散」——模型可能抓不住重点。我建议根据实际需求选择,不要盲目追求大窗口。

如何选择模型?我的经验总结

说了这么多,到底怎么选?我给你几个实用建议:

  1. 日常对话、简单任务: GPT-3.5 或 Claude Haiku 就够了,便宜又快。
  2. 复杂推理、代码生成: GPT-4 或 Claude Sonnet,贵但值得。
  3. 超长文档分析: Claude 200K 或 Gemini 1.5,窗口大就是王道。
  4. 多模态任务(图片、视频): Gemini 1.5 是首选。
  5. 对输出格式有严格要求: Claude 的指令遵循能力最强。

最后说一句:没有最好的模型,只有最适合你场景的模型。我建议你每个都试试,花不了多少钱,但能帮你找到最趁手的工具。

嗯,这一章就到这里。下一章咱们聊聊 Prompt 的核心原则——怎么写指令,模型才听得懂。