跳到主要内容

时延大约 50ms 就要吐出 top-20,底库是十亿条 768 维。单机 HNSW 会先被内存、建图墙钟还是尾延迟打死?分片、量化、冷热分层按什么次序叠加?

RAG 检索与知识组织中级RAG 检索

题目​

时延大约 50ms 就要吐出 top-20,底库是十亿条 768 维。单机 HNSW 会先被内存、建图墙钟还是尾延迟打死?分片、量化、冷热分层按什么次序叠加?

参考答案​