待验证50% 置信事实精确时间
「对齐税」（Alignment Tax）指模型经过RLHF、安全微调等对齐训练后，在部分能力维度上出现的性能损耗
1
来源数
50%
置信度
长期有效
时效性
2026/9/21
首次发现
来源
涉及实体
相关事实
待验证对齐税（Alignment Tax）指基于人类反馈的强化学习（RLHF）训练可能让模型倾向于给出看似完整的答案，而非坦诚承认不确定性75% 相似待验证RLHF需要同时维护策略模型、参考模型、奖励模型、价值模型四个副本，显存占用庞大且训练不稳定69% 相似待验证人在回路(HITL)的审批结果可同时作为RLHF训练数据，形成模型能力持续提升的飞轮69% 相似已验证RLHF本质上是一种行为层面的约束，并不改变模型的底层能力，经过RLHF训练的模型仍保留被限制行为的潜在知识65% 相似待验证对齐（Alignment）是指通过 RLHF、DPO 等训练手段让模型学会拒绝有害请求、遵循人类价值观64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/939554API
curl https://kongchang.com/api/v1/knowledge/claims/939554MCP
get_claim(id=939554)