跳到主要内容

手册单章大约 3k token,切成约 200 token 的块之后,「本章适用范围」和代词所指都丢了。向量模型窗口有 8k,能不能先对整章做一次编码,再按块的 token 区间做池化得到块向量?这和给每块先写一段生成式前缀再嵌入差在哪,召回评测要看什么?

RAG 检索与知识组织中级RAG评测成本

题目​

手册单章大约 3k token,切成约 200 token 的块之后,「本章适用范围」和代词所指都丢了。向量模型窗口有 8k,能不能先对整章做一次编码,再按块的 token 区间做池化得到块向量?这和给每块先写一段生成式前缀再嵌入差在哪,召回评测要看什么?

参考答案​