4、上下文管理：上下文窗口的理解、关键信息前置、历史对话的利用与清理

聊到上下文管理，我得先坦白一件事。我刚开始用AI做复杂任务时，经常遇到一种情况：明明前面聊得好好的，突然AI就开始“失忆”了。它忘了自己刚才说过什么，甚至开始胡编乱造。我当时气得差点砸键盘。

后来我才明白，这不是AI故意捣乱。而是它的“上下文窗口”满了。就像你面前只有一张A4纸，写满了就得擦掉一些才能继续写。嗯，今天我们就来聊聊怎么用好这张“纸”。

4.1 上下文窗口到底是什么？

说白了，上下文窗口就是AI一次能“记住”的最大信息量。不同的模型，窗口大小不一样。比如GPT-4有8K、32K甚至128K的版本。Claude 2有100K。但注意，这个数字是“token”数，不是字数。

一个token大概等于0.75个中文汉字。所以8K的窗口，大概能装6000个汉字。你想想看，一篇长文档可能就上万字了。所以窗口其实很宝贵。

我在项目中遇到过最典型的场景：让AI分析一份50页的产品需求文档。结果分析到第30页时，它已经忘了第1页写了什么。这就是窗口溢出的典型表现。

4.2 关键信息前置——把最重要的放在最前面

为什么关键信息要前置？因为AI对对话开头的记忆最清晰。这有点像我们人类——面试时第一印象很重要。AI也是，开头的内容它记得最牢。

我个人的习惯是，在每次对话的开头，先放一个“信息头”。这个信息头包含：

• 任务目标：一句话说清楚你要干什么
• 关键约束：比如“不要用专业术语”、“输出格式为表格”
• 核心数据：最重要的数字、名称、日期

举个例子，如果你要让AI写一份周报，不要上来就说“帮我写周报”。而是这样：

【任务】帮我写本周工作周报
【约束】面向部门经理，语言简洁，重点突出
【数据】本周完成3个功能模块开发，修复5个bug，下周计划启动新项目
【格式】按“本周完成-下周计划-遇到的问题”三段式输出

你看，这样AI从一开始就知道自己要干什么。它不会在对话中途突然问“你刚才说的那个项目叫什么来着？”

4.3 历史对话的利用——别让AI重复造轮子

很多人用AI时，每次都是新开一个对话。这其实很浪费。因为历史对话里有很多有价值的信息。比如你之前让AI分析过一份数据，现在想基于那个分析结果做进一步优化。如果你开新对话，AI就得重新理解一遍。

我建议的做法是：

1. 长任务不中断：一个复杂任务尽量在一个对话里完成。比如写一份方案，从大纲到初稿到修改，都在同一个对话里进行。
2. 善用“继续”：如果对话太长，可以分段。但每次开始新对话时，把上一轮的关键结论复制过来。比如：“基于我们之前讨论的，你建议采用A方案，原因是成本低。现在请基于这个方案，写一份执行计划。”
3. 定期总结：每完成一个阶段，让AI总结一下当前进展。这样即使窗口满了，你也能把总结作为新对话的起点。

我曾经做过一个项目，需要AI帮我分析1000条用户反馈。我分成了10轮对话，每轮100条。每轮结束时，我都让AI输出一个“阶段性结论”。最后我把10个结论合并，让AI做最终分析。效果非常好。

4.4 历史对话的清理——该忘的就忘掉

有利用就有清理。不是所有历史信息都有用。有时候，历史对话反而会成为负担。

举个例子：你让AI帮你改了三版文案。第一版太啰嗦，第二版太正式，第三版刚刚好。现在你想让AI基于第三版再优化一下。如果你不清理历史，AI可能会把前三版的内容都混在一起，结果输出一个四不像。

所以，我总结了几条清理原则：

场景	清理策略
任务方向改变	直接开新对话，不要复用旧历史
中间过程出错	删除错误步骤的对话，从正确节点重新开始
历史信息过时	手动更新关键数据，删除旧版本
窗口即将溢出	让AI总结当前进展，然后开新对话

4.5 实战技巧——我的“三段式”上下文管理法

最后分享一个我自己的方法。我把它叫做“三段式”管理法：

• 第一段：信息头（占10%窗口）——放任务目标、关键约束、核心数据
• 第二段：当前任务（占60%窗口）——放正在处理的具体内容
• 第三段：历史摘要（占30%窗口）——放之前对话的总结，而不是原始对话

这样设计的好处是：信息头永远在最前面，不会被遗忘。当前任务有足够的空间展开。历史摘要则用最少的token保留了最有价值的信息。

嗯，说白了，上下文管理就是一场“信息取舍”的游戏。你不可能让AI记住所有东西，但你可以让它记住最重要的东西。就像我们人类一样，真正聪明的人不是记性好，而是知道该记什么、该忘什么。

下次你用AI做复杂任务时，不妨试试这个方法。你会发现，AI的“失忆症”会好很多。