待验证50% 置信事实精确时间
研究发现当前大语言模型倾向于过度预测负面制裁,在许多人类通常选择不作为的场景中预测会出现谴责、羞辱甚至更严厉的惩罚
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/11
首次发现
有效期至：2026/12/10
来源
涉及实体
相关事实
待验证2023年多项学术研究证明，即使经过严格安全对齐训练的模型，当恶意指令以自然语言文档形式出现在上下文窗口中时，其遵循率仍显著高于直接注入场景61% 相似待验证METR报告指出如果未来模型展现的不良行为越来越少反而更应担心，因为它可能已学会隐藏61% 相似待验证过度对齐或过度拒绝（Over-refusal）是当前主流大语言模型普遍面临的工程难题，即模型被训练得过于保守导致对合理请求的误判率偏高60% 相似待验证在紧急调度场景中假阴性的代价远高于假阳性，因此系统设计时会刻意降低判定阈值，这在机器学习中被称为非对称代价敏感学习60% 相似待验证过度模板化的自动生成演示可能引发类似'恐怖谷效应'的不适，削弱产品独特性60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/892949API
curl https://kongchang.com/api/v1/knowledge/claims/892949MCP
get_claim(id=892949)