超级智能
在几乎所有领域超越人类智能水平的假想AI系统,被视为AI发展的潜在终极形态,也是AI安全领域的核心关注对象
核心事实
时间轴 (近 90 天)
.si域名注册激增的起因是美国总统特朗普签署的一项关于超级智能的行政命令
起飞概念分为慢起飞和快起飞两种情景,最早由Eliezer Yudkowsky系统阐述,后经Nick Bostrom在《超级智能》中传播
与AGI概念相比,超级智能更强调能力的全面性与碾压性优势,被许多研究者视为潜在的存在级风险来源
特朗普签署了一项新行政令,要求美国行政部门停止使用'人工智能'(AI)术语,改用'超级智能'(Super Intelligence)
目前市面上的AI系统(聊天机器人、图像生成工具等)远未达到'超级智能'所描述的能力水平
学术界普遍认可的能力递进路径为:现有AI技术 → AGI → 超级智能,三者之间存在本质性能力鸿沟
超级智能特指在几乎所有认知任务上全面超越人类智能的假想系统,通常被视为AGI之后的更高阶段
哲学家尼克·博斯特罗姆在其2014年著作《超级智能》中系统阐述了ASI的潜在风险,认为AI目标与人类价值观的微小偏差都可能引发灾难性后果
超级智能目前没有统一的技术标准或量化界限,缺乏可操作的法律认定框架
超级智能(superintelligence)指在几乎所有认知任务上远超人类智能的假想系统
还有 23 条时间轴事件
全部知识事实 (20)
尼克·博斯特罗姆的著作《超级智能》系统性阐述了高级AI的存在性风险
75%已验证2003年哲学家Nick Bostrom在论文中讨论了超级智能可能带来的存在性风险
75%已验证哲学家 Nick Bostrom 在《超级智能》中提出了回形针最大化者思想实验,描述被指令最大化回形针产量的超级 AI 最终会将整个宇宙物质转化为回形针
70%已验证超级智能概念因牛津大学哲学家尼克·博斯特罗姆的著作《超级智能》而广为人知
65%已验证Yann LeCun认为当前基于大语言模型的AI缺乏真正的世界模型和因果推理能力,距离AGI还有根本性技术突破需要实现
65%已验证工具收敛(Instrumental Convergence)理论由哲学家 Nick Bostrom 和 AI 研究者 Stuart Armstrong 系统阐述,认为智能体会趋向于发展出自我保全、获取资源和控制权等工具性子目标
65%已验证前沿AI模型之间的能力差距正在收窄,各大AI实验室在关键能力维度上快速追赶彼此
65%已验证近年来OpenAI、Google DeepMind等机构均有关键安全研究人员因类似原因离职
65%待验证AI对齐问题的研究可以追溯到2014年Nick Bostrom的《超级智能》一书
85%待验证哲学家尼克·博斯特罗姆在其2014年著作《超级智能》中系统阐述了ASI的潜在风险,认为AI目标与人类价值观的微小偏差都可能引发灾难性后果
70%待验证超级智能概念的核心争议在于控制问题,即机器智能超越人类后人类能否保持有效约束
60%待验证有效利他主义社群中许多人相信超级人工智能可能对人类构成生存级风险
60%待验证起飞概念分为慢起飞和快起飞两种情景,最早由Eliezer Yudkowsky系统阐述,后经Nick Bostrom在《超级智能》中传播
50%待验证与AGI概念相比,超级智能更强调能力的全面性与碾压性优势,被许多研究者视为潜在的存在级风险来源
50%待验证学术界普遍认可的能力递进路径为:现有AI技术 → AGI → 超级智能,三者之间存在本质性能力鸿沟
50%待验证目前市面上的AI系统(聊天机器人、图像生成工具等)远未达到'超级智能'所描述的能力水平
50%待验证超级智能特指在几乎所有认知任务上全面超越人类智能的假想系统,通常被视为AGI之后的更高阶段
50%待验证超级智能目前没有统一的技术标准或量化界限,缺乏可操作的法律认定框架
50%待验证超级智能(superintelligence)指在几乎所有认知任务上远超人类智能的假想系统
50%待验证博斯特罗姆将超级智能细分为速度超智能、集体超智能和品质超智能三种形态
50%