口吻、字段名、过期制度叠在同一条失败记录里,周五拿来复盘。怎样用一次只动一层的消融,判定该动提示层、检索层还是权重层?
题目
口吻、字段名、过期制度叠在同一条失败记录里,周五拿来复盘。怎样用一次只动一层的消融,判定该动提示层、检索层还是权重层?
参考答案
点击展开参考答案
- 冻结模型和解码参数,按「先契约、再提示、再检索、最后权重」做减法/加法对照:加上 schema 校验后字段是否立刻稳;只换系统规则或 few-shot 后口吻是否收回;只换索引或把现行 PDF 置顶后制度是否改口。
- 哪一层一动故障消失,下一刀就只打那一层。
- 三处都微调会把可变事实、文风和 schema 焊进同一份 ΔW,以后改一条制度就要重训,还无法归因。
- 选型看「变化频率 × 是否必须进条件分布」。
- 字段名是有限枚举,后处理比梯度便宜:生成后用 JSON schema 校验,失败则重试或填默认——这层过了,就不要为漂移开 SFT。