ESSAY
提示词不是咒语:一个可复现的对比方法
与其收藏“万能提示词”,不如固定任务和评价标准,一次只改变一个变量。
7 分钟阅读
提示词经常被包装成一段需要背诵的咒语:加上某个角色、某种语气或一句“请一步一步思考”,输出似乎就会突然变好。
但如果任务、材料、模型和评价标准同时改变,我们其实无法知道是哪一部分产生了作用。一个更稳妥的做法,是把提示词优化当成小型对比实验。
先定义固定任务
选择一个会反复出现的真实任务,例如:
从一份会议记录中提取决定事项、负责人、截止时间和仍未解决的问题。
保存同一份脱敏输入,在整个实验中不更换。然后提前定义评价标准:关键事项是否遗漏、负责人是否对应正确、是否虚构截止时间、格式是否方便复制到项目管理工具。
建立最小基线
第一版提示词应该尽可能简单:
请总结下面的会议记录。
它不是为了得到最好结果,而是作为对照。保存输出并评分之后,再进入下一轮。
一次只增加一种信息
第二轮可以补充任务目标和输出格式:
任务:从会议记录中提取可执行信息。
请输出四个部分:
1. 已确认的决定;
2. 待办事项、负责人和截止时间;
3. 尚未解决的问题;
4. 材料中存在歧义、需要人工确认的内容。
不得补充原文没有的信息。找不到负责人或日期时写“未说明”。
第三轮再加入一份合格输出示例,观察示例是否改善结构一致性。每次只改变一组因素,才能知道变化来自哪里。
Google 的提示设计指南同样强调:指令要清晰具体,必要时加入上下文、约束和示例,并通过迭代验证效果。查看提示设计策略
把提示词拆成六个部分
我更愿意把一段提示词看成可组合的说明书:
目标:最终要解决什么问题
背景:模型需要知道哪些上下文
输入:要处理的材料在哪里
约束:不能做什么,遇到缺失信息怎么办
格式:输出需要满足什么结构
验收:什么样的结果才算合格
不是每个任务都需要全部六项。简单任务保持简单;只有当错误代价上升、格式需要复用时,才逐步增加约束。
记录“不起作用”的改动
如果某段角色设定没有提高准确率,只让文字变长,也应该记录下来。无效改动同样能减少以后反复试错。
需要特别注意三类现象:
- 输出看起来更流畅,但事实错误没有减少;
- 格式更整齐,却遗漏了不符合模板的信息;
- 在一个样本上有效,换一份材料就失效。
不要只比较最好的一次
生成式模型存在波动。重要工作流不应只保存一次最漂亮的输出,而应使用多份固定样本,观察平均表现和最坏情况。
最终保留下来的也不应该是一段脱离上下文的“万能提示词”,而是一套组合:适用任务、提示词、样本、评分标准和已知边界。
当这些信息都在,提示词才真正从收藏品变成可以维护的工具。