如果所谓上线只是在聊天窗口里随手改提示,满三个月时账单和质量一般会先在哪些地方撑不住?
题目
如果所谓上线只是在聊天窗口里随手改提示,满三个月时账单和质量一般会先在哪些地方撑不住?
参考答案
点击展开参考答案
- 裂开的不是「模型会不会写字」,而是把一次对话试出来的文本当成了没有契约的接口。
- 提示同时承担任务说明、安全边界、输出格式和业务例外,却没有版本、评测集和回放日志,供应商一换模型或运营改半句话,线上分布就会无声漂移。
- 三个月后最常见的是:同一类工单正确率忽高忽低、token 账单随「多写一点规则」线性膨胀、事故无法复现。
- Prompt 工程的关键不在文笔,而在把模型输入当成可测试、可回滚的产品接口。
- 一次推理请求的真实输入通常是:系统规则 + 工具/字段 schema + 检索片段 + 对话历史 + 当前用户文本;模型只看到拼接后的 token 序列,按下一 token 分布续写。
- 生产里这段序列就是接口:字段顺序、分隔符、缺省规则都会改条件分布。