首屏必须在 100ms 量级返回,新帖仍要由语言模型来写话题和导语。召回通道、排序器、标注作业各自走实时还是走离线,如何防止迟到特征把排序结果变成一套生成管道?
题目
首屏必须在 100ms 量级返回,新帖仍要由语言模型来写话题和导语。召回通道、排序器、标注作业各自走实时还是走离线,如何防止迟到特征把排序结果变成一套生成管道?
参考答案
点击展开参考答案
- 100ms 的在线路径只做轻量计算:读已物化的用户画像和实时特征,多路召回,排序,再加规则重排和多样性。
- 主题、摘要、冷启动标签走近线:发帖后进标注队列,结果写入特征店,给之后的请求用。
- 解释文案若要用语言模型,也只能对已经排好的头几条异步生成,不能挡首屏。
- 推荐好不好仍看点击、停留和在线实验,不看标注模型的文笔。
- 时间片(示意):召回 10–30ms 出数百到数千候选,精排 20–40ms,打散和降权已读数毫秒,剩下给网关和特征读取。
- 刚发生的点击走特征流,迟到就用上一窗口快照,绝不在 100ms 里现场跑一遍大模型。