知识动态实体播客深度开发者关于

[控场AI]

AI 领域实时知识。所有信息可溯源验证，数据 24 小时内持续更新。

Powered by 240+ first-hand AI sources

知识库

知识动态
热门实体
播客

开发者

CLI
MCP Server
REST API
关于

© 2026 KongchangAI. 控场AI，获取最新、最准的 AI 领域知识

待验证50% 置信事实精确时间

AI模型的过度拒绝（over-refusal）是安全对齐研究中的已知问题，RLHF和Constitutional AI训练会使模型将无害请求错误归类为需要拒绝

1

来源数

50%

置信度

长期有效

时效性

2026/8/6

首次发现

来源

Perplexity Comet代理能力退化：AI浏览器为何变得畏手畏脚

相关事实

待验证Meta AI研究团队将过度拒绝现象称为假阳性拒绝（false positive refusal），根源在于模型训练时过度依赖表面语义特征而非深层语境理解78% 相似待验证过度对齐（Overalignment）现象指模型在边界情形下倾向过度拒绝合理请求，是Constitutional AI安全优先策略的潜在代价74% 相似待验证主动要求AI引入可信瑕疵可以对抗模型的讨好性偏差，从而提升输出的真实度73% 相似待验证直接让AI做逆向分析可能会触发模型的道德/合规约束而拒绝执行72% 相似待验证在prompt中明确要求AI不确定时直接说明不要编造，能有效降低模型的讨好冲动71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/699103

API

curl https://kongchang.com/api/v1/knowledge/claims/699103

MCP

get_claim(id=699103)