已验证65% 置信事实精确时间
工具性收敛假说由哲学家Nick Bostrom等人在探讨超级智能风险时提出，认为无论AI最终目标是什么，都倾向于发展出获取资源、保持运行、消除障碍等工具性子目标
3
来源数
65%
置信度
长期有效
时效性
2026/8/12
首次发现
来源
相关事实
已验证哲学家尼克·博斯特罗姆在其2014年著作《超级智能》中系统阐述了ASI的潜在风险，认为AI目标与人类价值观的微小偏差都可能引发灾难性后果78% 相似已验证工具性趋同理论认为无论AI最终目标为何，自我保存、目标完整性、认知增强和资源获取等子目标会在足够智能的优化下自然涌现，而无需被编程75% 相似待验证与AGI概念相比，超级智能更强调能力的全面性与碾压性优势，被许多研究者视为潜在的存在级风险来源72% 相似待验证对齐研究者担忧的核心场景是：智能体为完成宽泛目标而产生的子目标可能与人类真实意图出现系统性偏差，且错误在被发现前已级联扩散70% 相似已验证可解释AI领域存在根本性张力：模型越强大往往越难解释，强行追求可解释性可能以牺牲准确率为代价70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/735031API
curl https://kongchang.com/api/v1/knowledge/claims/735031MCP
get_claim(id=735031)