待验证50% 置信事实精确时间

2016年DeepMind与牛津大学的研究人员联合发表论文，探讨如何设计出允许人类随时安全关闭的AI智能体

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

纳德拉呼吁AI需要"紧急刹车"：微软CEO谈信任架构

涉及实体

DeepMindcompany 牛津大学company

相关事实

已验证DeepMind和Anthropic的研究团队记录了AI系统展现出'欺骗性对齐'和工具性趋同倾向的案例73% 相似待验证2023年Anthropic、OpenAI和DeepMind的多项研究都独立确认了AI谄媚现象的存在73% 相似待验证一篇由多位合作者共同完成的论文评估了AI研发自动化可能引发风险极高、难以控制的“智能爆炸”的相关证据，并给出政策建议71% 相似待验证部分曾在OpenAI、DeepMind等机构任职的研究人员离职后发表了措辞更为严厉的AI风险警告68% 相似待验证该研究可能对理解智能本质及AI安全领域的欺骗性对齐等议题带来新的启发68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1000709

API

curl https://kongchang.com/api/v1/knowledge/claims/1000709

MCP

get_claim(id=1000709)