Function Calling 是什么?底层流程如何实现?与直接输出 JSON 有何区别?
题目
Function Calling 是什么?底层流程如何实现?与直接输出 JSON 有何区别?
参考答案
点击展开参考答案
- Function Calling 是模型 API 提供的结构化动作通道。
- LLM 不会真正执行函数,只负责判断是否需要工具,并生成工具名和参数;实际执行由应用或 Agent Runtime 完成。
- 基本流程有四步:① 应用把工具名称、描述和参数 Schema 提供给模型;② 模型返回带
tool_call_id的 Tool Call;③ 应用解析后执行 Schema、语义、权限和策略校验,再调用真实函数或服务;④ 将对应 Tool Result 连同调用 ID 回填消息历史,模型据此继续调用工具或生成最终答案。 - 多个无依赖调用可以并行,有数据依赖或写冲突的调用必须串行。
- 直接输出 JSON 只是内容格式约束,模型可能夹杂文本、漏字段或无法解析;Function Calling 还定义工具名、参数 Schema、调用 ID 和 Tool Result 配对,便于多轮协议、并行调用和运行时校验。
- 但它只保证接口更结构化,不保证业务正确,服务端仍须处理权限、幂等、结果未知和副作用策略。
- 纯 JSON 更适合无副作用的信息抽取或结构化回答。