Rerank 重排序的作用是什么?常用模型有哪些?
题目
Rerank 重排序的作用是什么?常用模型有哪些?
参考答案
点击展开参考答案
- 为什么需要 Rerank:向量检索是双塔(bi-encoder)结构,query 和 doc 独立编码,速度快但精度有限;Rerank 用 cross-encoder 把 query 和 doc 拼在一起输入模型,交互更充分,精度更高但慢,所以只对 Top-K 候选做精排。
- 典型流程:向量检索 Top-50 → Rerank 精排 Top-5 → 送 LLM。
- 常用 Rerank 模型:bge-reranker 系列(中文效果好)、Cohere Rerank、mxbai-rerank、cross-encoder/ms-marco。
- 效果提升:加 Rerank 后召回准确率通常能提升 10%~30%,是 RAG 系统最值得加的组件之一。
- 追问:Rerank 为什么比向量检索准?(答:cross-encoder 中 query 和 doc 的每一个 token 都能互相注意,做深度语义交互;bi-encoder 各自编码完就比相似度,信息损失大)
- 追问:Rerank 延迟会不会很大?(答:会,但只对 50 个候选做排序,每个候选几十毫秒,总延迟几百 ms,可接受)