什么是大模型幻觉?为什么会发生,如何降低?
题目
什么是大模型幻觉?为什么会发生,如何降低?
参考答案
点击展开参考答案
- 幻觉是模型生成缺少证据、与事实/上下文冲突或虚构工具状态的内容。
- 原因包括自回归目标优化“像真的文本”而非事实、训练知识过时/缺失、问题歧义、上下文噪声或 Lost-in-the-Middle、解码随机性、错误检索,以及长轨迹中错误 Observation 传播。
- 降低方式按链路处理:权威 Tool/RAG 与来源时间;混合召回和 rerank;要求 claim 绑定引用并验证数字;结构化输出与业务校验;证据不足拒答/澄清;高风险结果由代码或人确认。
- 不要把 temperature=0 当事实保证。
- 评测事实正确、faithfulness、引用支持率、拒答正确率和多次运行稳定性,并归因到检索、模型或工具。