待验证50% 置信决策规则精确时间
在设计安全协议时，高估风险远比低估风险要好
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证安全研究者将系统行动能力远超其安全判断能力的潜在风险称为能力越界（Capability Overhang）76% 相似待验证安全护栏中的分类器为概率模型，存在误报和漏报的权衡，阈值设得过低会导致过度拦截73% 相似待验证过度对齐（Over-alignment）指模型安全护栏设置过于敏感，在完全合法的使用场景中也拒绝提供帮助的反向风险71% 相似已验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景70% 相似待验证大模型在长时程任务中遭遇灾难性失败（负向奖励）时，策略网络会倾向于选择期望收益低但风险也低的行为，这被称为风险规避过度或局部最优策略70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/973229API
curl https://kongchang.com/api/v1/knowledge/claims/973229MCP
get_claim(id=973229)