[控场AI]
概念preference alignment

偏好对齐

一种AI对齐技术,通过收集人类对模型输出的偏好反馈(如排序、评分)来调整模型行为,使其输出更符合人类期望与领域规范。常与强化学习(RLHF)结合使用。

核心事实

时间轴 (近 90 天)

11月13日

在生成式AI语境下,HITL常与偏好对齐(preference alignment)结合,即利用人类反馈(如RLHF中的排序或评分)来调整模型行为。

待验证50%

全部知识事实 (2)

来源文章