超长 ReAct 任务中,历史 `reasoning_content` 应保留、剥离还是压缩?
题目
超长 ReAct 任务中,历史 reasoning_content 应保留、剥离还是压缩?
参考答案
点击展开参考答案
- 完整回传有利于计划连贯和避免重复,但 Token、缓存重读和错误思维惯性持续增长;全部剥离节省成本并符合某些模型训练格式,却会让每轮重新推理、忘记排除路径。
- 不能跨模型套用统一策略,先遵循目标模型的 Chat Template 和 API 要求。
- 工程折中是保留最近若干轮必要决策摘要,把长期状态写成结构化“目标、已确认事实、已排除方案、待办、证据”,原始 observation 外置;不保存或展示私有 CoT。
- 按 Token 而非固定轮次批量压缩,记录来源并评测重复步骤、长程成功、成本和缓存命中。