待验证50% 置信事实精确时间

HITL机制早期主要用于主动学习的数据标注，随后在RLHF中被大规模应用，成为ChatGPT等模型对齐的核心方法

1

来源数

50%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

AI Agent失控怎么办？一套可追溯系统的实践与思考

相关事实

待验证人在回路(HITL)的审批结果可同时作为RLHF训练数据，形成模型能力持续提升的飞轮74% 相似已验证RLHF（基于人类反馈的强化学习）是ChatGPT等对话模型背后的关键训练技术74% 相似待验证RLHF是InstructGPT和ChatGPT能力跃升的核心技术，但存在奖励模型被过度优化（reward hacking）的内在风险70% 相似待验证领域微调通常先通过监督微调（SFT）注入领域知识，再经过基于人类反馈的强化学习（RLHF）对齐用户偏好69% 相似待验证人机协同（HITL）源自机器学习领域，最初指在模型训练过程中引入人工标注和反馈以提升模型质量68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/531191

API

curl https://kongchang.com/api/v1/knowledge/claims/531191

MCP

get_claim(id=531191)