用户要先核库存再下单,客服侧却只跑了一轮 LLM 补全、随口造出订单号。缺掉的是哪一层能力?
题目
用户要先核库存再下单,客服侧却只跑了一轮 LLM 补全、随口造出订单号。缺掉的是哪一层能力?
参考答案
点击展开参考答案
- 缺的是「观察外部世界、执行真实动作、再根据结果继续」的闭环,而不只是一次文本补全。
- 单次 LLM 调用只能根据训练知识和当前提示续写,看不到库存接口的返回值,也拿不到下单 API 的回执,订单号只能是模型编出来的 token。
- Agent 要在目标未完成时反复:提出动作 → 由平台执行 → 把观察写回上下文 → 再决定;没有这一层,它最多是会说话的表单。
- 一次简单调用的数据流是
用户文本 → 提示拼接 → 解码 → 返回字符串,模型既连不上 ERP,也不能持有跨步状态。 - Agent 多了执行器:模型输出受 schema 约束的动作(例如
check_stock(sku)),运行时鉴权、限流、记审计后再去查库,把{qty: 3}追加进下一轮提示。