什么是 Few-shot?Few-shot 和 Zero-shot 的区别?
题目
什么是 Few-shot?Few-shot 和 Zero-shot 的区别?
参考答案
点击展开参考答案
- Zero-shot:不给示例,直接让模型做任务;适合简单、明确的任务。
- Few-shot:在 prompt 中给几个输入-输出示例,让模型照着示例的格式和风格做;适合复杂、格式要求高的任务。
- Few-shot 的作用:(a) 让模型理解你要的输出格式;(b) 展示任务的"模式";(c) 调整回答风格。
- 示例数量:一般 3~5 个就够;太多会占用大量 token,边际收益递减。
- 追问:Few-shot 示例怎么选?(答:要有代表性,覆盖不同情况;顺序也有影响——重要的/典型的放前面)
- 追问:Few-shot 为什么有效?(答:模型是 next-token 预测,看到前面的示例就知道后面应该输出什么格式;相当于"激活"了对应的任务模式)