离线建库链路和在线提问链路,各自抽掉哪一环就绝对不能明早接员工手册问答的流量?
题目
离线建库链路和在线提问链路,各自抽掉哪一环就绝对不能明早接员工手册问答的流量?
参考答案
点击展开参考答案
- 离线至少要有可重复的采集与解析、按结构分块、写入向量(以及可选的词法)索引,并把块 ID 映射回原文、章节和版本。
- 在线至少要有:鉴权后的检索、按身份过滤、组装带出处的上下文、生成,以及把命中的块 ID 和模型输入输出打进日志。
- 缺解析或索引,线上无证可查;缺过滤或日志,则无法证明没有越权、也无法事后对一条错答追责。
- 离线是批处理写路径:连接器拉入手册文件 → 解析器抽出正文和标题树 → 去掉页眉页脚和重复目录 → 按条款或段落成块 → 嵌入模型按批(例如每批 32–128 条)写成数百到一千维左右的向量 → 写入 ANN 索引,同时把 raw_text、doc_id、section、acl、version 写入元数据表。
- 在线是读路径:鉴权 → 可选的查询规范化 → 检索 top-k(常见先取 20–80)→ 可选重排到最终 4–8 段 → 按生成窗口拼提示 → 调 LLM → 返回答案和引用。