Prompt 一直不生效,你怎么排查?
题目
Prompt 一直不生效,你怎么排查?
参考答案
点击展开参考答案
- 先确认模型到底收到了什么:打印完整的 prompt(包括 system + history + user),检查有没有格式问题。
- 检查是不是 prompt 太长被截断了:确认上下文窗口和实际 prompt 长度。
- 换最小复现:把 prompt 简化到最短,一步步加内容,找到哪一步开始不生效。
- 检查格式:特殊字符、换行、引号有没有问题;chat template 对不对。
- 尝试 few-shot:加一个示例,看模型是不是只是没理解你的要求。
- 检查模型版本:是不是模型更新了行为变了?
- 追问:为什么有时候换个说法就好了?(答:模型对 prompt 的措辞很敏感;同样的意思换种表达方式,模型的"理解"可能完全不同)