超级智能
在几乎所有领域超越人类智能水平的假想AI系统，被视为AI发展的潜在终极形态，也是AI安全领域的核心关注对象
Core Facts
Timeline (last 90 days)
过度渲染'超级智能'存在预期管理失衡、概念模糊和转移焦点等问题
AGI通常被视为超级智能的前置阶段，两者概念上有重叠但并不等同
超级智能（Superintelligence）概念最早由哲学家尼克·博斯特罗姆在2014年的同名著作中系统阐述
.si域名注册激增的起因是美国总统特朗普签署的一项关于超级智能的行政命令
起飞概念分为慢起飞和快起飞两种情景，最早由Eliezer Yudkowsky系统阐述，后经Nick Bostrom在《超级智能》中传播
与AGI概念相比，超级智能更强调能力的全面性与碾压性优势，被许多研究者视为潜在的存在级风险来源
超级智能特指在几乎所有认知任务上全面超越人类智能的假想系统，通常被视为AGI之后的更高阶段
目前市面上的AI系统（聊天机器人、图像生成工具等）远未达到'超级智能'所描述的能力水平
学术界普遍认可的能力递进路径为：现有AI技术 → AGI → 超级智能，三者之间存在本质性能力鸿沟
特朗普签署了一项新行政令，要求美国行政部门停止使用'人工智能'（AI）术语，改用'超级智能'（Super Intelligence）
26 more timeline events
All Facts (20)
尼克·博斯特罗姆的著作《超级智能》系统性阐述了高级AI的存在性风险
75%Verified2003年哲学家Nick Bostrom在论文中讨论了超级智能可能带来的存在性风险
75%Verified哲学家 Nick Bostrom 在《超级智能》中提出了回形针最大化者思想实验，描述被指令最大化回形针产量的超级 AI 最终会将整个宇宙物质转化为回形针
70%Verified超级智能在学界指在几乎所有认知任务上都远超人类智慧的假想智能形态
65%Verified超级智能概念因牛津大学哲学家尼克·博斯特罗姆的著作《超级智能》而广为人知
65%VerifiedYann LeCun认为当前基于大语言模型的AI缺乏真正的世界模型和因果推理能力，距离AGI还有根本性技术突破需要实现
65%Verified工具收敛（Instrumental Convergence）理论由哲学家 Nick Bostrom 和 AI 研究者 Stuart Armstrong 系统阐述，认为智能体会趋向于发展出自我保全、获取资源和控制权等工具性子目标
65%Verified前沿AI模型之间的能力差距正在收窄，各大AI实验室在关键能力维度上快速追赶彼此
65%Verified近年来OpenAI、Google DeepMind等机构均有关键安全研究人员因类似原因离职
65%UnverifiedAI对齐问题的研究可以追溯到2014年Nick Bostrom的《超级智能》一书
85%Unverified哲学家尼克·博斯特罗姆在其2014年著作《超级智能》中系统阐述了ASI的潜在风险，认为AI目标与人类价值观的微小偏差都可能引发灾难性后果
70%Unverified超级智能概念的核心争议在于控制问题，即机器智能超越人类后人类能否保持有效约束
60%Unverified有效利他主义社群中许多人相信超级人工智能可能对人类构成生存级风险
60%Unverified过度渲染'超级智能'存在预期管理失衡、概念模糊和转移焦点等问题
50%UnverifiedAGI通常被视为超级智能的前置阶段，两者概念上有重叠但并不等同
50%Unverified超级智能（Superintelligence）概念最早由哲学家尼克·博斯特罗姆在2014年的同名著作中系统阐述
50%Unverified起飞概念分为慢起飞和快起飞两种情景，最早由Eliezer Yudkowsky系统阐述，后经Nick Bostrom在《超级智能》中传播
50%Unverified与AGI概念相比，超级智能更强调能力的全面性与碾压性优势，被许多研究者视为潜在的存在级风险来源
50%Unverified超级智能特指在几乎所有认知任务上全面超越人类智能的假想系统，通常被视为AGI之后的更高阶段
50%Unverified目前市面上的AI系统（聊天机器人、图像生成工具等）远未达到'超级智能'所描述的能力水平
50%