流式输出在 Agent 中如何实现?
题目
流式输出在 Agent 中如何实现?
参考答案
点击展开参考答案
- 将流式输出定义为结构化事件协议,例如
run.started、message.delta、tool.started、tool.completed、approval.required、citation、error和run.completed;每个事件携带run_id、step、sequence 和时间。 - SSE 适合服务端单向推送,WebSocket 适合双向控制。
- 服务端通过 event log 或 outbox 先持久化再发送,客户端按
run_id + sequence去重,并用Last-Event-ID或 cursor 断点续传;慢客户端需有界缓冲和背压。 - 工具执行期间只展示可验证的动作摘要,不泄露私有思维链或伪造进度。
- 断线默认不取消后台任务,最终事件给出完整结果和终态。