Unverified50% confidenceFactExact time
过度收紧的护栏会导致过度拒绝（Over-refusal）现象，研究表明经过严格RLHF对齐训练的模型拒绝率可能比实际需要高出3-5倍
1
Sources
50%
Confidence
Long-term
Relevance
9/4/2026
First Seen
Sources
Related Entities
Related Claims
Verified过度的安全微调会导致模型过度拒绝（over-refusal），损害实用性77% similarUnverified漂移检测存在权衡：阈值设置过于敏感会导致频繁误报和不必要的重训，设置过于宽松则可能让模型性能在无感知中持续退化76% similarUnverified过度对齐或过度拒绝（Over-refusal）是当前主流大语言模型普遍面临的工程难题，即模型被训练得过于保守导致对合理请求的误判率偏高76% similarUnverified对齐税指模型被过度训练拒绝有害请求时，其拒绝边界可能泛化到正常无害场景，导致过度谨慎75% similarUnverified安全边界收紧会提高拒绝率阈值，导致误判率上升，即精确率-召回率权衡71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/854288API
curl https://kongchang.com/api/v1/knowledge/claims/854288MCP
get_claim(id=854288)