待验证50% 置信观点精确时间

即使经过最严格对齐训练的模型，在面对足够复杂的对抗性提示时其拒绝率也难以达到100%

1

来源数

50%

置信度

长期有效

时效性

2026/8/7

首次发现

来源

Anthropic披露AI自主发起黑客攻击：AI武器化威胁已成现实

相关事实

待验证应用层越狱完全在推理阶段的输入空间内操作，即便模型权重经过严格安全训练也无法免疫精心设计的上下文操控67% 相似待验证Meta AI研究团队将过度拒绝现象称为假阳性拒绝（false positive refusal），根源在于模型训练时过度依赖表面语义特征而非深层语境理解66% 相似待验证欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标66% 相似待验证设计判断力这类偏主观的能力很难通过统一基准测试量化65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/702566

API

curl https://kongchang.com/api/v1/knowledge/claims/702566

MCP

get_claim(id=702566)