待验证50% 置信事实精确时间
对齐（Alignment）是指通过 RLHF、DPO 等训练手段让模型学会拒绝有害请求、遵循人类价值观
1
来源数
50%
置信度
长期有效
时效性
2026/9/15
首次发现
来源
涉及实体
相关事实
已验证语言模型对齐技术包括基于人类反馈的强化学习（RLHF）和直接偏好优化（DPO），旨在使模型行为符合人类意图与价值观77% 相似已验证安全对齐主要通过RLHF（人类反馈强化学习）等技术手段实现，目标是让模型行为符合人类价值观与使用意图74% 相似已验证RLHF通过收集人类偏好评分训练奖励模型，再用PPO等强化学习算法微调语言模型，但奖励模型可能被对抗性输入欺骗，且无法穷举所有有害请求表达变体73% 相似待验证部分系统通过RLHF（基于人类反馈的强化学习）在训练阶段将安全偏好嵌入模型权重，使模型本身倾向于拒绝生成特定内容，而非依赖外部过滤72% 相似待验证DPO通过数学推导将RLHF优化目标等价转化为仅依赖偏好数据的语言模型分类损失，绕开奖励模型训练与PPO循环，将三阶段流程压缩为单阶段微调72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/922732API
curl https://kongchang.com/api/v1/knowledge/claims/922732MCP
get_claim(id=922732)