各产品线不再单独训练小模型、改为共享同一套基础模型之后,工程账本上哪些会消失、哪些会新增?
题目
各产品线不再单独训练小模型、改为共享同一套基础模型之后,工程账本上哪些会消失、哪些会新增?
参考答案
点击展开参考答案
- 少掉的是为每个分类/抽取任务单独采标、训权重、维护训练集群的主路径;多出来的是围绕同一个通用模型搭产品系统:提示与上下文装配、检索与工具、评估集、安全过滤、路由和按 token 计费。
- 基础模型把能力上限从“这份标注集能撑起什么分类器”改成“这段上下文能约束住什么生成”,但模型本身不是产品——权限、拒答和失败兜底仍要业务自己做。
- 某条业务不该硬套的典型信号是:需要校准概率、设备端硬延迟、或输出必须可审计地确定性复现。
- 基础模型在海量混合语料上做自监督预训练(常见是下一 token 预测),得到可迁移的表示和生成先验,再用提示、RAG、工具或轻量微调适配下游。
- 工程重心从“特征工程 + 每任务一份 checkpoint”转到“上下文预算 + 版本漂移 + 幻觉/注入事故”。