RAG 检索不到正确文档,你怎么排查和优化?
题目
RAG 检索不到正确文档,你怎么排查和优化?
参考答案
点击展开参考答案
- 先定位问题:是 query 理解问题还是索引问题?拿具体 case 手工查向量库看 Top-20 结果。
- 优化检索:(a) 加 Query Rewriting:让 LLM 把用户口语化问题改写成更适合检索的关键词;(b) 加 HyDE:先让模型生成一个假设答案,用这个假设答案去检索(假设答案的向量空间更接近真实文档);(c) 混合检索(向量+BM25);(d) 调优 chunk size 和 overlap。
- 优化 embedding:换更强的 embedding 模型(如 bge-m3、gte-large);领域内做 embedding 微调。
- 优化索引结构:父子分块(小 chunk 检索、大 chunk 送 LLM);加元数据过滤。
- 追问:HyDE 的原理?(答:用户问题和文档的表达方式可能差异很大(用户说"怎么报销",文档写"费用报销管理制度");先让 LLM 生成一个假设性回答,这个回答的语言风格更接近文档,用它去检索命中率更高)
- 追问:Query Rewriting 适合什么场景?(答:用户问题口语化、有歧义、包含指代时特别有效)