待验证50% 置信事实精确时间

安全研究者将系统行动能力远超其安全判断能力的潜在风险称为能力越界（Capability Overhang）

1

来源数

50%

置信度

长期有效

时效性

2026/7/9

首次发现

来源

Claude Code运行陌生仓库的安全风险：AI智能体如何被接管

bilibiliAIlazy俊2026/7/7

相关事实

待验证设计不当的系统提示词（如过度强调不惜一切代价完成用户任务）可能削弱模型的安全护栏，智能体框架设计、权限管控及被操作系统的安全性共同决定此类事件是否发生70% 相似待验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景68% 相似待验证过度公开检测技术细节可能为恶意方提供规避蓝图67% 相似待验证过度对齐（Over-alignment）指模型安全护栏设置过于敏感，在完全合法的使用场景中也拒绝提供帮助的反向风险67% 相似已验证过度的安全微调会导致模型过度拒绝（over-refusal），损害实用性67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/391521

API

curl https://kongchang.com/api/v1/knowledge/claims/391521

MCP

get_claim(id=391521)