跳到主要内容

嵌入模型与重排器都没改,百万级向量库上 P99 检索却从大约 80ms 爬到大约 900ms。买加速硬件之前,过滤时机、ANN 参数、缓存应按什么次序排查?

RAG 检索与知识组织中级RAG

题目​

嵌入模型与重排器都没改,百万级向量库上 P99 检索却从大约 80ms 爬到大约 900ms。买加速硬件之前,过滤时机、ANN 参数、缓存应按什么次序排查?

参考答案​