待验证50% 置信事实精确时间

对齐税（Alignment Tax）指厂商在后训练阶段通过 RLHF 和安全微调降低有害输出概率时，往往导致模型在安全边界附近过度泛化，把无害请求也误判为危险请求并拒绝

1

来源数

50%

置信度

长期有效

时效性

2026/8/22

首次发现

来源

Stripe 70亿收购OpenRouter：AI中转成大生意，端侧模型加速崛起

涉及实体

对齐税concept RLHFconcept

相关事实

待验证不同厂商在RLHF阶段对安全性与有用性的权重取舍不同，过于强调规避风险会使模型给出保守、模糊、附带免责声明的回答76% 相似待验证安全分类器的核心困境在于精确率与召回率的权衡，调低阈值提高召回但增加误报，学术界称为对齐税70% 相似待验证RLHF微调阶段相比预训练在数据量级上通常小2-3个数量级，使安全行为编码为低秩覆写而非底层重塑64% 相似待验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景64% 相似待验证应对审批疲劳的合理做法是结合风险分级，高风险动作强制审批，低风险动作可配置自动放行64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/786767

API

curl https://kongchang.com/api/v1/knowledge/claims/786767

MCP

get_claim(id=786767)