换了编码器、手册由 FAQ 改成法规条文、查询从五字变成整段粘贴后,生产那道「余弦不到 0.8 就告知生成侧无货」为何会成批拒答或成批放行?「库里没有相关文档」该如何校准?
题目
换了编码器、手册由 FAQ 改成法规条文、查询从五字变成整段粘贴后,生产那道「余弦不到 0.8 就告知生成侧无货」为何会成批拒答或成批放行?「库里没有相关文档」该如何校准?
参考答案
点击展开参考答案
- 0.8 不是相关性概率,只是某套编码器、某种归一化下的几何值。
- 换模型后各向异性和分数直方图会整体平移,FAQ 短句对的分数会挤在高位、法规长段的真相关可能只有 0.5 左右,短查询会把整片主题都顶到 0.75 以上。
- 固定门槛因此会在一个域上全放行、在另一个域上全拒答。
- 空库决策要按「模型 × 领域 × 查询长度桶」用有无金标的查询校准 top-1 分和分差,编码器一换就重做,不要把弱片段塞给生成模型碰运气。
- 已 L2 归一化时余弦等于内积,它比较的是方向,不是「有用」。
- 各向异性:很多句向量挤在一个窄锥里,随机一对的余弦均值就可以相当高(随模型而变,有的分布中心在 0.4–0.7 这种示意区间)。