跳到主要内容

从网关接到会触发工具调用的用户消息,到终答流式出来,不可省略的环节有哪些、最容易把时延打爆的两处等待在哪?

模型选型与微调中级工具调用

题目​

从网关接到会触发工具调用的用户消息,到终答流式出来,不可省略的环节有哪些、最容易把时延打爆的两处等待在哪?

参考答案​