什么时候该微调,什么时候用 RAG 或 Prompt?
题目
什么时候该微调,什么时候用 RAG 或 Prompt?
参考答案
点击展开参考答案
- 不应用微调记忆经常变化的事实。
- 决策前先建立评测基线;若问题是召回不到知识,微调通常不解决。
- 微调后仍需安全、事实和分布外评测。
- 先按失败类型选最小成本方案:指令/格式问题先改 Prompt、Schema 和示例;缺失或频繁变化的私有事实用 RAG;稳定行为模式、领域语言或小模型能力且有高质量数据时才微调。
- 检索召回错误不能靠微调修复,动态知识也不应写入权重。
- 每一步先建相同评测基线,比较质量、时延、成本和维护;微调后回归通用工具调用、安全与分布外能力。