RAG 的 Chunk Size 如何确定?
题目
RAG 的 Chunk Size 如何确定?
参考答案
点击展开参考答案
- Chunk Size 没有通用固定值,应由文档结构、问题粒度、Embedding 模型、检索与 rerank 策略以及生成预算共同决定。
- 先按标题/段落、表格、代码函数、合同条款等语义结构设计多组 size 与 overlap,再用带 gold evidence 的真实查询集比较 Recall@K、nDCG、答案正确率、引用覆盖、重复率、Token、延迟和 P99。
- 小块召回更精确,但可能丢失上下文;大块语义完整,却会引入噪声并挤占窗口。
- 可用父子块或 small-to-big retrieval,以小块命中、回取大块。
- 最终参数应按文档类型分层选择,并同时检查解析质量、metadata 和 rerank;这些因素往往比机械地调整字符数更关键。