外观
Agent 设计中的 Human-in-the-Loop 有哪些介入模式?
标准回答
人工介入是让系统在合适节点停下来,把需要人判断的内容说清楚,再根据人的决定继续。
- 在高影响、不可逆或超出授权范围的动作前暂停。
- 给人查看对象、参数、依据和预期影响,允许修改或拒绝。
- 保存任务状态,确认后仅执行获批操作,过期或参数变更需重新核对。
通俗例子
退款金额超出自动处理范围时,展示订单、规则和建议金额,等待审核;审核改了金额后,只能执行改后的批准内容。
易混淆点
人工确认不是一个装饰按钮;批准之后的执行内容必须与审批内容一致。
内容来源
- Android · AI Agent 知识手册 · 原条目
ai-Q31