有人来报:回复点到了子虚乌有的条款。可查的记录只剩最后正文,状态码还是 HTTP 200。要把问题拆到检索、prompt 拼接、生成环节或工具调用,单次 trace 至少该记下哪些字段,又有哪一类严禁以明文持久化?
题目
有人来报:回复点到了子虚乌有的条款。可查的记录只剩最后正文,状态码还是 HTTP 200。要把问题拆到检索、prompt 拼接、生成环节或工具调用,单次 trace 至少该记下哪些字段,又有哪一类严禁以明文持久化?
参考答案
点击展开参考答案
- HTTP 200 只说明网关没崩,不能说明引用从哪来。
- 一条最小 trace 要有:
trace_id/span_id、租户与用户假名、提示版本、模型版本与解码参数、检索查询和文档 id、分数、索引版本、注入块 id 列表、工具名与状态、输入输出 token、TTFT/TPOT、结束原因、护栏裁决,以及输出侧的引用 id。 - 条款正文、证件号、完整提示原文默认不落明文;需要复盘时进受控、有 TTL 的对象库。
- 有了文档 id 和注入列表,才能区分「检索就召回了错条款」「拼提示时张冠李戴」还是「模型编造了未注入的编号」。
- 跨服务用同一
traceparent:网关 span → 编排 span → 检索 span → 模型客户端 span → 每个工具 span。 - 检索 span 记规范化查询、top-k 的 doc_id、chunk_id、分数、过滤器(权限、时效),不记全文。