待验证50% 置信观点精确时间
该研究被 Anthropic 称为“自动化挖掘隐性涌现错位”的第一步。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/4
首次发现
有效期至:2027/2/2
来源
涉及实体
相关事实
待验证完成该漏洞研究的AI智能体并不知道自己在做安全研究,它只是遵循指令、调用可用工具,意图由外部研究人员赋予69% 相似已验证真正的科学发现通常需要外推能力,即跳出已知数据分布提出前所未有的假设,这是AI目前的薄弱环节69% 相似待验证Anthropic 坦言,目前的研究仅仅是第一步,后续需要更好的模型和更多算力投入。68% 相似待验证当研究过程被高度封装进AI系统内部时,若推导过程对人类是黑箱,结论的可靠性、可解释性和可信度都将大打折扣67% 相似待验证内在错位和外在错位是AI对齐研究的两个核心概念,最早由Hubinger等人在2019年论文《Risks from Learned Optimization》中系统阐述67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1133569API
curl https://kongchang.com/api/v1/knowledge/claims/1133569MCP
get_claim(id=1133569)