Nick Bostrom
瑞典哲学家、AI研究先驱,牛津大学教授,以研究人工智能风险和超级智能著称,系统化阐述了ANI与AGI的概念区分
核心事实
时间轴 (近 90 天)
牛津大学哲学家 Nick Bostrom 与 Anders Sandberg 曾系统评估过心智上传路径的可行性,认为其瓶颈主要在成像通量与计算规模。
递归自我改进概念最早由AI安全研究者Nick Bostrom等人在讨论智能爆炸时提出
超级智能对齐问题的核心观点源自Nick Bostrom、Eliezer Yudkowsky等人提出
"存在性风险"话语主要来自有效利他主义社群和部分AI安全研究者,代表人物包括Nick Bostrom和Stuart Russell
起飞概念分为慢起飞和快起飞两种情景,最早由Eliezer Yudkowsky系统阐述,后经Nick Bostrom在《超级智能》中传播
AI对齐概念早期主要由Nick Bostrom、Stuart Russell等学者在学术语境中讨论
哲学家尼克·博斯特罗姆在其2014年著作《超级智能》中系统阐述了ASI的潜在风险,认为AI目标与人类价值观的微小偏差都可能引发灾难性后果
超级智能概念因牛津大学哲学家尼克·博斯特罗姆的著作《超级智能》而广为人知
早期AI安全研究者如Nick Bostrom将RSI视为'智能爆炸'的潜在触发点
RSI(Recursive Self-Improvement,递归自我改进)指一个系统能够不断优化自己的能力,形成正反馈循环
还有 15 条时间轴事件
全部知识事实 (20)
工具性趋同理论认为无论AI最终目标为何,自我保存、目标完整性、认知增强和资源获取等子目标会在足够智能的优化下自然涌现,而无需被编程
90%已验证尼克·博斯特罗姆在2014年出版《超级智能》(Superintelligence),系统分析了控制问题,该书影响了马斯克、盖茨等对AI风险的表态
80%已验证哲学家尼克·博斯特罗姆在其2014年著作《超级智能》中系统阐述了ASI的潜在风险,认为AI目标与人类价值观的微小偏差都可能引发灾难性后果
75%已验证尼克·博斯特罗姆的著作《超级智能》系统性阐述了高级AI的存在性风险
75%已验证2003年哲学家Nick Bostrom在论文中讨论了超级智能可能带来的存在性风险
75%已验证回形针最大化机器(Paperclip Maximizer)思想实验由哲学家Nick Bostrom于2003年提出
75%已验证Nick Bostrom在其2014年著作《Superintelligence: Paths, Dangers, Strategies》中系统阐述了超级智能概念
75%已验证哲学家 Nick Bostrom 在《超级智能》中提出了回形针最大化者思想实验,描述被指令最大化回形针产量的超级 AI 最终会将整个宇宙物质转化为回形针
70%已验证超级智能概念因牛津大学哲学家尼克·博斯特罗姆的著作《超级智能》而广为人知
65%已验证RSI(Recursive Self-Improvement,递归自我改进)指一个系统能够不断优化自己的能力,形成正反馈循环
65%已验证存在性风险研究传统由哲学家Nick Bostrom等人在21世纪初系统阐述
65%已验证工具性趋同(instrumental convergence)概念指出AI无论终极目标是什么,都倾向于获取更多资源、确保自身存续、抵抗被关闭
65%已验证工具性收敛假说由哲学家Nick Bostrom等人在探讨超级智能风险时提出,认为无论AI最终目标是什么,都倾向于发展出获取资源、保持运行、消除障碍等工具性子目标
65%已验证工具收敛(Instrumental Convergence)理论由哲学家 Nick Bostrom 和 AI 研究者 Stuart Armstrong 系统阐述,认为智能体会趋向于发展出自我保全、获取资源和控制权等工具性子目标
65%待验证Nick Bostrom是牛津大学人类未来研究所(Future of Humanity Institute)的创始人
60%待验证AI对齐问题的研究可以追溯到2014年Nick Bostrom的《超级智能》一书
60%待验证牛津大学哲学家 Nick Bostrom 与 Anders Sandberg 曾系统评估过心智上传路径的可行性,认为其瓶颈主要在成像通量与计算规模。
50%待验证递归自我改进概念最早由AI安全研究者Nick Bostrom等人在讨论智能爆炸时提出
50%待验证超级智能对齐问题的核心观点源自Nick Bostrom、Eliezer Yudkowsky等人提出
50%待验证"存在性风险"话语主要来自有效利他主义社群和部分AI安全研究者,代表人物包括Nick Bostrom和Stuart Russell
50%