流式输出下,工具调用事件怎么推送前端?断线重连怎么恢复?
题目
流式输出下,工具调用事件怎么推送前端?断线重连怎么恢复?
参考答案
点击展开参考答案
- 使用 SSE 或 WebSocket 推送结构化事件,而不是把所有内容混成文本。
- 事件类型可包括
run.started、message.delta、tool.started、tool.progress、tool.completed、approval.required、citation、error和run.completed。 - 每个事件带
run_id、单调递增sequence、时间、step/tool_call_id 和可见 payload;不向用户暴露模型私有思维链。 - 服务端先把事件写入持久化 event log/outbox,再推送连接,避免“前端收到了但状态没落库”或反过来。
- 客户端按
run_id + sequence幂等消费,维护最后确认序号。 - SSE 重连携带
Last-Event-ID,WebSocket 在握手时提交 cursor;服务端补发 cursor 之后的事件。 - 日志已压缩或过期时先返回当前 snapshot,再从新序号继续。