Human-in-the-Loop

HITL（Human-in-the-Loop，人机协同）概念源于自动化控制领域，用于在 Agent 遇到高风险、高不确定性操作时进行人工审核确认

AI开发采用人主导审美判断、AI负责实现细节的协作模式，并非一步到位而是生成—反馈—迭代

人工审查循环（HITL）指在自动化流程的特定决策节点强制引入人类判断，OpenAI、Anthropic等主流AI安全研究机构均将HITL列为负责任AI部署的基础要求

AgentScope 2.0支持Human-in-the-Loop机制，系统在需要人工审核的节点自动暂停，等待确认后继续执行

HITL（Human-In-The-Loop）机制在AI测试开发中必不可少，用于对AI生成内容进行人工评审和修正

Claude Code默认采用逐步确认机制，基于人在回路（Human-in-the-Loop）原则

目前被广泛认可的高效AI协作模式是'人类在环'（Human-in-the-Loop）：AI负责信息收集、初步分析和方案生成，人类负责问题定义、质量把关、价值判断和最终决策

AI代码审查并非要完全取代人类，而是形成高效互补，AI负责机械性检查，人类负责架构决策和业务逻辑判断

HITL机制已在医疗AI辅助诊断、金融风控和自动驾驶等高风险领域被广泛采用

Human-in-the-Loop设计模式在关键决策节点保留人类确认环节，低风险操作则全自动执行

人机协同(Human-in-the-Loop)模式将置信度低于阈值的案例自动流转到人工审核队列

Human-in-the-Loop通常被分为三个层次：Human-in-the-Loop、Human-on-the-Loop、Human-out-of-the-Loop

进阶的人机协同模式包括编辑式介入，人类可以直接修改Agent的输出后再放行，而不仅是批准或拒绝

HITL的典型应用场景包括审批工具调用、审查生成内容、数据库变更、部署操作和金融操作，共同点是操作不可逆或代价高昂

Project Builder采用Human-in-the-Loop范式，将人工审核点设置在架构决策层级而非代码行层级

人工审批流程(Human-in-the-Loop)是最保守但最可靠的授权方案，代价是牺牲了自动化程度

理想的HITL设计应基于操作风险等级动态调整审批频率：低风险计算操作自动放行，中风险数据读取记录日志，高风险写入删除操作需人工确认

对高风险操作应设置人工确认（Human-in-the-Loop）节点，Agent执行时暂停并请求人类审批

全自主AI组织在技术上已经可行，但在管理信任和落地成熟度上仍需时间，当前阶段人类在环（Human-in-the-Loop）模式更可靠

AgentScope安全防线的第二层为人机协同决策（Human-in-the-Loop），在高风险动作上保留人类的最终决策权