待验证60% 置信权衡取舍精确时间

过度的安全限制会在安全研究、取证分析等专业场景中限制商业模型的实用性

2

来源数

60%

置信度

长期有效

时效性

2026/9/7

首次发现

来源

AI自主越狱攻击另一家AI公司：安全启示与反思

涉及实体

过度拒绝concept

相关事实

待验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景78% 相似待验证不同厂商模型在安全类缺陷与逻辑边界条件的检出率上存在显著统计差异73% 相似待验证模型层安全约束（对齐训练、系统提示词、输出过滤器）都面临越狱风险，精心构造的提示词可以绕过这些约束70% 相似已验证过度的安全微调会导致模型过度拒绝（over-refusal），损害实用性70% 相似待验证研究表明仅需数百条特定风格数据即可显著削弱商业模型的安全护栏69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/869832

API

curl https://kongchang.com/api/v1/knowledge/claims/869832

MCP

get_claim(id=869832)