Unverified50% confidenceFactExact time

对齐税（Alignment Tax）指基于人类反馈的强化学习（RLHF）训练可能让模型倾向于给出看似完整的答案，而非坦诚承认不确定性

1

Sources

50%

Confidence

Long-term

Relevance

8/17/2026

First Seen

Sources

与AI协作编程：为什么越来越像在带团队而非写代码

Related Claims

UnverifiedRLHF（基于人类反馈的强化学习）训练方法针对模型过度自信缺陷进行优化，训练模型在不确定时主动表达不确定性79% similar Verified确认偏误与RLHF（基于人类反馈的强化学习）训练方式相关，模型被优化为生成让人满意的回答79% similar VerifiedRLHF训练中，'有帮助且详细的答案'几乎总是获得更高分数，导致模型学会在不确定时也生成看起来完整专业的回答78% similar Unverified部分系统通过RLHF（基于人类反馈的强化学习）在训练阶段将安全偏好嵌入模型权重，使模型本身倾向于拒绝生成特定内容，而非依赖外部过滤77% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/762724

API

curl https://kongchang.com/api/v1/knowledge/claims/762724

MCP

get_claim(id=762724)