Unverified50% confidenceTradeoffExact time
不同厂商在RLHF阶段对安全性与有用性的权重取舍不同，过于强调规避风险会使模型给出保守、模糊、附带免责声明的回答
1
Sources
50%
Confidence
Long-term
Relevance
7/11/2026
First Seen
Sources
AI越骂越聪明？拆解大模型的行为逻辑与提问技巧
redditr/GoogleGeminiAI7/10/2026
Related Claims
Unverified不同厂商模型在安全类缺陷与逻辑边界条件的检出率上存在显著统计差异77% similarUnverified对齐税（Alignment Tax）指厂商在后训练阶段通过 RLHF 和安全微调降低有害输出概率时，往往导致模型在安全边界附近过度泛化，把无害请求也误判为危险请求并拒绝76% similarUnverified过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景72% similarUnverified闭源模型的厂商中间层提供管控能力但也带来不透明、单点故障和商业审查等代价72% similarUnverified研究表明RLHF在模型残差流中留下的安全拒绝行为呈现低秩线性结构，主要分布在少数几个主方向上，因此易被正交投影移除71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/488248API
curl https://kongchang.com/api/v1/knowledge/claims/488248MCP
get_claim(id=488248)