第3章:评估流程:五步闭环法

提示词评估这件事,说白了就是给提示词打分。但怎么打、打几分、打完分怎么办——这里头门道不少。

我刚开始做提示词工程时,也踩过坑。那时候写了个提示词,自己觉得挺完美,结果一上线,用户反馈乱七八糟。后来我才明白:评估不是拍脑袋,得有一套流程

今天要聊的,就是这套流程——五步闭环法。它不是什么高深理论,而是我实战中反复打磨出来的套路。

第一步:定义目标

评估之前,先问自己一个问题:这个提示词到底要达成什么效果?

目标不清晰,评估就是瞎忙活。我见过太多人,上来就写测试用例,结果测了半天,发现根本不知道自己在测什么。

定义目标时,我习惯从三个维度入手:

  • 准确性:输出内容是否与预期一致?
  • 完整性:是否覆盖了所有关键信息?
  • 可用性:输出结果是否可以直接使用?

举个例子。你写了个提示词,让AI生成产品描述。那目标可能是:

  • 描述包含产品名称、功能、价格
  • 语言风格符合品牌调性
  • 字数控制在100-150字

目标越具体,后面的评估就越有方向。

我的小习惯:每次定义目标时,我会把目标写在一张便签上,贴在屏幕旁边。评估时时不时看一眼,防止跑偏。

第二步:设计测试用例

目标定好了,接下来就是设计测试用例。这一步,说白了就是给提示词出考题

测试用例怎么设计?我总结了三类:

类型 说明 示例
正常用例 最常见的输入场景 “请生成一款智能手表的描述”
边界用例 输入极端或特殊的情况 “请生成一款价格0元的产品描述”
异常用例 输入错误或模糊的情况 “请生成描述”(缺少产品信息)

我曾经犯过一个错:只设计了正常用例。结果上线后,用户输入了“帮我写个东西”,AI直接懵了。从那以后,我每次都会加几个边界和异常用例。

设计测试用例时,还有个小技巧:每个用例都要写清楚预期结果。没有预期结果,你根本不知道AI答得对不对。

# 测试用例示例
用例编号:TC-001
输入:请生成一款智能手表的描述,价格2000元
预期结果:
- 包含“智能手表”关键词
- 提到价格2000元
- 语言风格简洁专业
- 字数在100-150字之间

第三步:执行评估

测试用例准备好了,那就开测吧。

执行评估时,我建议每次只测一个变量。什么意思?就是如果你改了提示词的措辞,就别同时改温度参数。否则你根本分不清是哪个改动影响了结果。

执行过程中,记得记录结果。我习惯用表格来记:

用例编号 输入 实际输出 是否通过 备注
TC-001 生成智能手表描述 输出包含手表名称、功能、价格 ✅ 通过 字数略多,158字
TC-002 生成价格0元的产品描述 输出提示“价格异常” ❌ 未通过 需要优化边界处理

嗯,这里要注意:不要只记录“通过”或“不通过”。把实际输出也记下来,后面分析时用得上。

第四步:分析结果

数据拿到了,接下来就是分析。这一步,很多人容易犯一个毛病:只看通过率

通过率当然重要,但它不是全部。我见过一个提示词,通过率90%,但剩下的10%全是致命错误——比如生成了错误的产品价格。这种提示词你敢用吗?

分析结果时,我一般会问自己三个问题:

  • 失败用例有没有规律? 比如都是边界用例出问题?
  • 失败的影响有多大? 是小问题还是大问题?
  • 有没有隐藏问题? 比如输出虽然正确,但格式不统一?

为什么会这样?因为有些问题,光看通过率是看不出来的。你得深入去看每一次输出。

避坑指南:我曾经有一个提示词,通过率高达95%。但仔细一看,那5%的失败用例全是用户输入了特殊字符。后来我加了个输入预处理,问题就解决了。所以,别只看数字,要看细节。

第五步:迭代优化

分析完了,就该动手改了。这一步,我称之为“缝缝补补”

迭代优化不是瞎改。你得根据分析结果,找到问题的根因,然后对症下药。

常见的优化方向有:

  • 措辞调整:提示词太模糊?加几个关键词。
  • 结构优化:提示词太长?拆成几步。
  • 参数调优:温度太高?降一点。
  • 增加约束:输出格式不统一?加个格式要求。

每次优化后,记得重新跑一遍测试用例。别偷懒,这一步不能省。

迭代几次后,你会发现提示词越来越稳。但也要注意:不要过度优化。我见过有人为了一个边界用例,把提示词改得又长又绕,结果正常用例反而出问题了。

我的经验:一般迭代3-5轮,提示词就能达到比较稳定的状态。如果超过10轮还在改,那可能是目标定义出了问题,建议回到第一步重新审视。

闭环的意义

五步闭环法,说白了就是一个“定目标-出题-考试-改卷-补课”的过程。每一步都环环相扣,缺一不可。

你想想看,如果跳过“定义目标”,你都不知道考什么。如果跳过“分析结果”,你都不知道错在哪。如果跳过“迭代优化”,那评估就白做了。

这套流程,我用了很久。从最初的提示词小白,到现在能快速定位问题、精准优化,靠的就是它。

最后说一句:评估不是终点,优化才是。闭环的意义,就是让你不断逼近那个“最优解”。