提示词基础原理：大模型工作原理、Token与上下文窗口、温度与采样参数
大家好，我是你们这堂课的讲师。今天咱们聊点硬核的——大模型到底是怎么工作的？
说实话，我刚开始接触提示词工程那会儿，也以为就是“会说话就行”。后来踩了不少坑，才明白一个道理：不懂原理的提示词工程师，就像不懂引擎的赛车手。你也许能跑，但永远跑不赢那些懂行的人。
一、大模型工作原理：它到底在“思考”什么？
很多人觉得大模型像个人脑，其实不是。它本质上是一个超级大的概率预测器。
你给它一句话，它做的事情很简单：猜下一个字最可能是什么。然后猜下下个字，再猜下下下个字……一直猜到你让它停。
举个例子：
输入：“今天天气真”
模型预测： “好” (概率 0.45)
“不错” (概率 0.30)
“热” (概率 0.15)
“糟糕” (概率 0.10)
模型会选概率最高的那个。但注意，它并不是真的“理解”天气好不好。它只是从海量训练数据里学到了——当人们说“今天天气真”的时候，后面大概率跟着“好”。
核心要点：大模型没有意识，没有情感，它只是一个巨大的统计模型。你给它的提示词，决定了它从哪个“概率空间”里开始猜词。
我在项目中遇到过一件事。有次让模型写产品文案，我给了很模糊的提示，结果它写出来一堆“正确的废话”。后来我把提示词改成“你是一个有10年经验的文案专家，目标用户是25-35岁的职场女性”，输出质量立刻上了一个台阶。为什么？因为提示词帮模型锁定了“概率空间”。
二、Token与上下文窗口：模型的“内存”有多大？
好，咱们聊聊Token。这个词你肯定听过，但你真的理解它吗？
Token是模型处理文本的最小单位。它不是字，也不是词，而是模型自己切分出来的“块”。
举个例子：
“我喜欢吃苹果”
可能被切分成： “我” “喜欢” “吃” “苹果” (4个Token)
也可能被切分成： “我” “喜欢” “吃苹果” (3个Token)
不同模型切法不一样。英文里一个单词通常是一个Token，但长单词可能被切成两三个。中文更复杂，一个汉字可能是一个Token，也可能两个字合起来是一个。
| 语言 | 文本 | Token数（约） |
|---|---|---|
| 英文 | Hello, how are you? | 4-5个 |
| 中文 | 你好，今天天气怎么样？ | 6-8个 |
| 代码 | def hello(): print("world") | 7-10个 |
实用技巧：写提示词时，尽量用简洁的表达。中文里，一个成语可能只占2-3个Token，但能表达很复杂的意思。这能帮你省下宝贵的上下文空间。
接下来说上下文窗口。你可以把它理解成模型的“短期记忆”。
比如GPT-3.5的上下文窗口是4096个Token，GPT-4是8192或32768个。什么意思？就是模型一次最多能“记住”这么多Token的内容。超过的部分，它就忘了。
我曾经犯过一个低级错误。有次做长文档分析，我把一份5000字的报告直接扔给模型，结果它只分析了前半部分，后半部分完全没处理。后来一查，5000字中文大概对应7000-8000个Token，远超模型的上下文窗口。
避坑指南：我曾经以为“多给点信息总是好的”，结果反而把模型搞糊涂了。记住：上下文窗口是有限的，你的提示词要像发微信一样精炼。把最重要的信息放在开头和结尾，中间放次要内容。
三、温度与采样参数：控制模型的“创造力”
这部分特别有意思。你想想看，为什么有时候模型回答很“死板”，有时候又很“天马行空”？
秘密就在温度（Temperature）这个参数里。
温度控制的是模型在选词时的“随机性”。
- 温度 = 0：模型每次都选概率最高的词。回答稳定、可预测，但可能很无聊。
- 温度 = 0.7：模型偶尔会选概率第二、第三高的词。回答有变化，有创意。
- 温度 = 1.5：模型几乎随机选词。回答可能很新颖，但也可能胡说八道。
我个人的习惯是：
- 写代码、做数学题：温度设 0.1-0.3，要的是准确
- 写文案、做创意：温度设 0.7-0.9，要的是多样性
- 聊天机器人：温度设 0.5-0.7，平衡一下
除了温度，还有几个参数也很关键：
| 参数 | 作用 | 我常用的值 |
|---|---|---|
| Top P | 只从概率最高的前P%的词里选 | 0.9-1.0 |
| Frequency Penalty | 惩罚重复出现的词 | 0.1-0.5 |
| Presence Penalty | 鼓励谈论新话题 | 0.0-0.3 |
实战建议：别同时调温度和Top P。我建议先固定Top P为0.95，然后只调温度。这样更容易找到感觉。调参数就像调咖啡——一次只改一个变量，你才知道到底是哪个参数起了作用。
嗯，这里要注意。温度不是越高越好。我见过有人把温度调到2.0，结果模型开始编造事实，说什么“地球是方的”。说白了，温度是双刃剑，用好了是创意，用不好就是胡扯。
四、把这些原理串起来：一个实战案例
咱们来做个练习。假设你要让模型写一首关于“秋天”的诗。
低质量提示：
写一首关于秋天的诗高质量提示（利用原理）：
你是一位现代诗人，擅长用意象表达情感。
请写一首关于秋天的短诗，4行。
要求：
- 使用“落叶”、“风”、“夕阳”三个意象
- 情感基调：淡淡的忧伤
- 温度参数：0.8（让语言更有诗意）
输出格式：
每行一句，不要标题看到了吗？好的提示词其实就是在“引导模型的概率空间”。你告诉它角色、风格、格式、情感，它就知道该往哪个方向猜词。
为什么会这样？因为你在提示词里埋下了“概率线索”。模型看到“诗人”、“意象”、“忧伤”这些词，就会倾向于从诗歌相关的语料里找答案。这就是提示词工程的底层逻辑。
我的经验：写提示词时，想象你是在给一个很聪明但有点“轴”的实习生布置任务。你要把背景、要求、格式、禁忌都说清楚。说得越清楚，他干得越好。
最后总结一下今天的内容：
- 大模型是概率预测器，不是思考者。你的提示词决定了它从哪个“知识库”里找答案。
- Token是计费单位，也是记忆单位。写提示词要精打细算，把好钢用在刀刃上。
- 温度控制创造力。低温度求准确，高温度求创意，别搞混了。
下一章咱们会聊提示词设计模式，教你怎么写出“一次就成功”的提示词。到时候见！
公众号:蓝海资料掘金营，微信deep3321