待验证50% 置信事实精确时间

业界用过度拒绝率（over-refusal rate）作为衡量模型调校困境的指标

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

AI会说"不"吗？我们对AI拒绝能力的信任被高估了

涉及实体

over-refusal rateconcept

相关事实

待验证过度拒绝率与有害输出率在调参时呈此消彼长关系，这在机器学习中被称为精确率与召回率之间的权衡74% 相似待验证Anthropic的研究显示过度对齐可能导致模型在无害问题上的拒答率从不到1%上升至超过10%70% 相似已验证Anthropic在2024年的研究论文中量化了模型过度拒绝现象，发现经过安全训练的模型在某些场景下拒绝率高达15-30%属于误判70% 相似待验证分层模型路由策略若分类不准确或过度偏向成本控制，会导致用户感知到的质量下降69% 相似待验证大多数通用大模型存在过度自信问题，其输出概率更多反映 token 分布偏好而非真实的不确定性估计68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/999012

API

curl https://kongchang.com/api/v1/knowledge/claims/999012

MCP

get_claim(id=999012)