什么是 HITL?如何划分审批边界并绑定具体动作?
题目
什么是 HITL?如何划分审批边界并绑定具体动作?
参考答案
点击展开参考答案
- HITL 是 Human-in-the-Loop(人在回路),指在 Agent 执行链路的关键决策点引入人类判断。
- Agent 可以自动完成低风险步骤,但遇到高风险、不可逆、信息不足或低置信度动作时暂停,保存状态并等待人类批准、拒绝、修改或补充信息后再继续。
- 它不是“每一步都人工确认”,也不只是失败后的人工兜底,而是预先设计的风险控制机制。
- 审批边界应按动作风险划分:只读操作可自动执行,可撤销操作可执行后通知,支付、发布、删除、权限变更和敏感数据外发等高风险写操作须执行前审批,关键操作还应二次认证。
- 审批页面展示工具、目标、规范化参数、影响范围、证据和有效期,而非只展示模型解释;记录绑定审批人、动作哈希和一次性 nonce,参数变化即失效。
- 状态机支持
WAITING_APPROVAL/APPROVED/REJECTED/EXPIRED,超时默认 fail-closed;恢复执行时仍需重新检查权限、参数、幂等并完整审计。