费用报销审核加上「一步步想明白」之后,耗时涨到两倍,演算底稿还直接露在用户眼前。你会把哪几层拆开,而不是继续加长提示词?
题目
费用报销审核加上「一步步想明白」之后,耗时涨到两倍,演算底稿还直接露在用户眼前。你会把哪几层拆开,而不是继续加长提示词?
参考答案
点击展开参考答案
- 先承认逐步推理只对「要多跳、中间量会错」的题有用:金额勾稽、税率、跨行合计这类。
- 拆三层:模型内部可以按步骤展开;返回给用户的只留结论、引用字段和一句可核验依据;算术本身尽量交给计算器或表格引擎,而不是让模型心算。
- 提示再写长解决不了「思维链被当成了产品文案」和「多生成了数百到数千 token」这两件事。
- 逐步推理改变的是生成轨迹:模型先写中间命题,再写答案,后一步以已经写出的 token 为条件,所以能降低「一步跳到错误总数」的概率。
- 代价直接落在解码:输出从例如 40 token 的 JSON 变成 400–800 token 的草稿,墙钟时间近似按输出长度涨,账单按输出单价再乘一截。