概念preference alignment
偏好对齐
一种AI对齐技术,通过收集人类对模型输出的偏好反馈(如排序、评分)来调整模型行为,使其输出更符合人类期望与领域规范。常与强化学习(RLHF)结合使用。
核心事实
时间轴 (近 90 天)
11月13日
在生成式AI语境下,HITL常与偏好对齐(preference alignment)结合,即利用人类反馈(如RLHF中的排序或评分)来调整模型行为。
待验证50%
一种AI对齐技术,通过收集人类对模型输出的偏好反馈(如排序、评分)来调整模型行为,使其输出更符合人类期望与领域规范。常与强化学习(RLHF)结合使用。
在生成式AI语境下,HITL常与偏好对齐(preference alignment)结合,即利用人类反馈(如RLHF中的排序或评分)来调整模型行为。