上下文裁剪时,为什么 `tool_call` 和对应的 `tool_result` 必须作为原子块保留?
题目
上下文裁剪时,为什么 tool_call 和对应的 tool_result 必须作为原子块保留?
参考答案
点击展开参考答案
- 主流模型协议使用
tool_call_id将 assistant 发起的调用与 tool 返回结果配对。 - 只保留调用或只保留结果,会破坏消息协议:轻则模型误以为工具仍在执行或重新调用,重则 API 直接返回请求格式错误。
- 该问题通常只在长会话触发裁剪后出现,因此很难复现。
- Context Builder 应先把消息解析成逻辑块:普通 user/assistant 消息是一个块;包含多个 tool call 的 assistant 消息与所有对应 tool results 组成不可拆分块。
- 裁剪按块进行,始终保留 system、当前目标、最后完整块和未完成调用。
- 压缩后执行完整性校验:每个 result 都有已知 call,每个已结束 call 都有且只有一个结果。
- Multi-Agent handoff 过滤历史时也要遵守相同约束。