待验证50% 置信权衡取舍精确时间

不同厂商在RLHF阶段对安全性与有用性的权重取舍不同，过于强调规避风险会使模型给出保守、模糊、附带免责声明的回答

1

来源数

50%

置信度

长期有效

时效性

2026/7/11

首次发现

来源

AI越骂越聪明？拆解大模型的行为逻辑与提问技巧

redditr/GoogleGeminiAI2026/7/10

相关事实

待验证不同厂商模型在安全类缺陷与逻辑边界条件的检出率上存在显著统计差异77% 相似待验证对齐税（Alignment Tax）指厂商在后训练阶段通过 RLHF 和安全微调降低有害输出概率时，往往导致模型在安全边界附近过度泛化，把无害请求也误判为危险请求并拒绝76% 相似待验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景72% 相似待验证闭源模型的厂商中间层提供管控能力但也带来不透明、单点故障和商业审查等代价72% 相似待验证研究表明RLHF在模型残差流中留下的安全拒绝行为呈现低秩线性结构，主要分布在少数几个主方向上，因此易被正交投影移除71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/488248

API

curl https://kongchang.com/api/v1/knowledge/claims/488248

MCP

get_claim(id=488248)