返回文章列表
ESSAY

提示词不是咒语:一个可复现的对比方法

与其收藏“万能提示词”,不如固定任务和评价标准,一次只改变一个变量。

  • 提示工程
  • 实验方法
7 分钟阅读

提示词经常被包装成一段需要背诵的咒语:加上某个角色、某种语气或一句“请一步一步思考”,输出似乎就会突然变好。

但如果任务、材料、模型和评价标准同时改变,我们其实无法知道是哪一部分产生了作用。一个更稳妥的做法,是把提示词优化当成小型对比实验。

先定义固定任务

选择一个会反复出现的真实任务,例如:

从一份会议记录中提取决定事项、负责人、截止时间和仍未解决的问题。

保存同一份脱敏输入,在整个实验中不更换。然后提前定义评价标准:关键事项是否遗漏、负责人是否对应正确、是否虚构截止时间、格式是否方便复制到项目管理工具。

建立最小基线

第一版提示词应该尽可能简单:

请总结下面的会议记录。

它不是为了得到最好结果,而是作为对照。保存输出并评分之后,再进入下一轮。

一次只增加一种信息

第二轮可以补充任务目标和输出格式:

任务:从会议记录中提取可执行信息。

请输出四个部分:
1. 已确认的决定;
2. 待办事项、负责人和截止时间;
3. 尚未解决的问题;
4. 材料中存在歧义、需要人工确认的内容。

不得补充原文没有的信息。找不到负责人或日期时写“未说明”。

第三轮再加入一份合格输出示例,观察示例是否改善结构一致性。每次只改变一组因素,才能知道变化来自哪里。

Google 的提示设计指南同样强调:指令要清晰具体,必要时加入上下文、约束和示例,并通过迭代验证效果。查看提示设计策略

把提示词拆成六个部分

我更愿意把一段提示词看成可组合的说明书:

目标:最终要解决什么问题
背景:模型需要知道哪些上下文
输入:要处理的材料在哪里
约束:不能做什么,遇到缺失信息怎么办
格式:输出需要满足什么结构
验收:什么样的结果才算合格

不是每个任务都需要全部六项。简单任务保持简单;只有当错误代价上升、格式需要复用时,才逐步增加约束。

记录“不起作用”的改动

如果某段角色设定没有提高准确率,只让文字变长,也应该记录下来。无效改动同样能减少以后反复试错。

需要特别注意三类现象:

  • 输出看起来更流畅,但事实错误没有减少;
  • 格式更整齐,却遗漏了不符合模板的信息;
  • 在一个样本上有效,换一份材料就失效。

不要只比较最好的一次

生成式模型存在波动。重要工作流不应只保存一次最漂亮的输出,而应使用多份固定样本,观察平均表现和最坏情况。

最终保留下来的也不应该是一段脱离上下文的“万能提示词”,而是一套组合:适用任务、提示词、样本、评分标准和已知边界。

当这些信息都在,提示词才真正从收藏品变成可以维护的工具。