AI 系统如何记录 Prompt、Response 和执行轨迹,同时保护隐私?
题目
AI 系统如何记录 Prompt、Response 和执行轨迹,同时保护隐私?
参考答案
点击展开参考答案
- 以
trace_id/run_id/step_id关联模型、RAG、Tool、审批和状态转移,记录模型/Prompt/工具/知识版本、Token、费用、finish reason、时延和错误。 - 原始 Prompt/Response 默认不进入普通日志;按字段脱敏、采样和权限保存到受控对象存储,Trace 仅放摘要、哈希和 artifact 引用。
- 定义数据分级、保留期、用户删除、加密、审计和生产访问审批;密钥、身份证、完整文档不记录。
- 线上指标从结构化 span 聚合,避免高基数正文 label。
- 回放需固定版本并隔离副作用,满足合规与可复现。