跳到主要内容

工具调用的 JSON 还没写完,用户却点了停止,而客服页正在边出字边渲染。哪些增量能马上画到屏幕,哪些必须等完整一帧,取消又如何到达推理引擎?

Agent 性能优化中级工具调用规划

题目​

工具调用的 JSON 还没写完,用户却点了停止,而客服页正在边出字边渲染。哪些增量能马上画到屏幕,哪些必须等完整一帧,取消又如何到达推理引擎?

参考答案​