已验证75% 置信权衡取舍精确时间

强化无害性可能导致模型出现过度拒绝（Over-refusal）而牺牲有用性

3

来源数

75%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

价值观诱导如何重塑大语言模型行为

涉及实体

过度拒绝concept

相关事实

待验证过度对齐本质上是对齐目标函数设定偏差的产物，模型学会了不被批评而非真正有帮助77% 相似待验证AI模型的过度拒绝（over-refusal）是安全对齐研究中的已知问题，RLHF和Constitutional AI训练会使模型将无害请求错误归类为需要拒绝76% 相似待验证模型选择弃答（abstention）可以避开压缩失真带来的自信错误76% 相似待验证即便模型层面的护栏被绕过，模型的能力上限依然存在，越狱更多是让模型放松拒绝态度而非真正赋予完成违法任务的能力74% 相似待验证研究指出安全性与拟真性之间存在权衡，无害定义过于宽泛会使模型在对抗性场景中表现笨拙74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/928033

API

curl https://kongchang.com/api/v1/knowledge/claims/928033

MCP

get_claim(id=928033)