公开材料早已写进权重,面向内部的问答机器人是否仍要另做检索层?
题目
公开材料早已写进权重,面向内部的问答机器人是否仍要另做检索层?
参考答案
点击展开参考答案
- 参数知识停在训练截止日,看不见未公开的制度、工单和配置,也无法在不重训的情况下替换一条过期规定。
- 检索层把“当前可引用的证据”在推理时拼进提示,使答案可更新、可追溯,并把数字和条款的来源从权重改成上下文。
- 若问题只依赖稳定常识且允许过期,可以不检索;一旦涉及私有事实、必须对得上的数字,或必须指出处,就应检索。
- 一次问答的数据流是:用户问题 → 检索器从企业语料取出 k 段 → 提示构造器按 token 预算裁剪并标注来源 → 生成模型在这些段上作答。
- 参数里的世界知识仍会参与措辞和推理,所以检索并不能消灭幻觉,只是把“事实应从哪里来”换成了当前语料。