退款条款需要精确命中,二十页政策还要能概括。嵌入上限 512 token、生成窗口 8k,切块该取多长?
题目
退款条款需要精确命中,二十页政策还要能概括。嵌入上限 512 token、生成窗口 8k,切块该取多长?
参考答案
点击展开参考答案
- 条款检索优先短块,让关键句在 512 的窗口里占足够比例,例如 128–256 token,并把条款号留在元数据里。
- 概括题需要更大的语义单元,可用接近 400–512 token 的节级块,或先用短块命中再回取整节。
- 512 是嵌入硬上限:超长块在建索引时就被截断,等于后半段从未进入向量。
- 块长接近 512 时,一块里若只有一句相关、其余是邻节噪音,向量会被噪音拉偏,精确条款的召回下降。
- 块长落到 64–128 token 时,主语、例外和适用条件常被切开,生成只能看到半句。