递归自我改进
AI安全领域核心概念，指AI系统修改自身架构、算法或训练过程以产生能力更强的后继版本，形成正反馈循环，由I.J.古德在1965年首次系统阐述
Core Facts
Timeline (last 90 days)
由Geoffrey Hinton等人参与的这篇论文评估AI自动化自身研发是否会形成递归自我改进（RSI）
递归自我改进能否触发不受控的爆炸取决于改进的边际回报是否持续为正、是否存在物理或算法瓶颈以及人类能否保持有效干预
递归自我改进的核心逻辑是自我增强的反馈回路：能优化自身架构、训练流程和研究方法的AI系统可将智能投入到让自己更聪明上，使能力曲线从线性增长转为超线性或指数式增长
“智能爆炸”概念的思想源头可追溯到早期关于递归自我改进的设想
递归自我改进指AI系统能够理解并改进自身代码、架构或训练流程，形成能力增长的正反馈循环
WeCo.ai在今年7月发布的推文宣称展示了递归自我改进（RSI）的首个证据，获得约180万浏览量
Tarek 认为递归自我改进不应理解为剧变，而是无数小改进的平滑累积，Claude 写了几乎所有代码本身就是一种递归自我改进
三位研究者达成共识：思考本身无法凭空产生新的比特，只能基于已获得信息更新后验概率
递归自我改进（RSI）是AI安全领域长期关注的核心风险场景，最早由Eliezer Yudkowsky等人系统阐述
第一个旋钮判断改进机制是否属于智能体：改进机制在智能体之外属于GPI范畴，若改进机制本身也是智能体可修改的组件则属于RSI领域
23 more timeline events
All Facts (20)
自我改进AI系统能够自主优化自身算法和能力，一旦突破某个临界点，可能进入快速递归自我改进循环
85%VerifiedRSI（递归自我改进）指的是AI能够自己创造下一个版本的自己
80%VerifiedAI正在从'辅助编写'向'辅助重构与优化'演进
80%Verified递归自我改进（recursive self-improvement）指AI加速AI的正反馈循环使技术进步可能呈指数级增长
75%VerifiedAI提效的基础是人已完成参数定位；大模型无法在缺乏人工引导下可靠地自动完成定位工作
75%Verified在企业级AI应用中，提示词优化往往能带来比模型升级更显著的性能提升
70%Verified数学家I.J. Good在1965年提出了'智能爆炸'假说，认为一旦机器智能超过人类，它将能够设计出更聪明的机器，触发指数级的能力跃升
70%VerifiedAI显著降低了工程化门槛，但并未彻底消除学习曲线，系统设计思维和工程化能力仍然需要持续积累
65%VerifiedI.J. 古德于1965年发表论文《关于第一台超智能机器的推测》（Speculations Concerning the First Ultraintelligent Machine）
65%Unverified论文的结论是基于测试时的模型版本，属于'截至测试时'的快照，而非永久性判断
70%Unverified当前递归自我改进的落地形式包括AI辅助编程、AI辅助研究和自动化训练流程优化
70%Unverified由Geoffrey Hinton等人参与的这篇论文评估AI自动化自身研发是否会形成递归自我改进（RSI）
50%Unverified递归自我改进能否触发不受控的爆炸取决于改进的边际回报是否持续为正、是否存在物理或算法瓶颈以及人类能否保持有效干预
50%Unverified递归自我改进的核心逻辑是自我增强的反馈回路：能优化自身架构、训练流程和研究方法的AI系统可将智能投入到让自己更聪明上，使能力曲线从线性增长转为超线性或指数式增长
50%Unverified“智能爆炸”概念的思想源头可追溯到早期关于递归自我改进的设想
50%Unverified递归自我改进指AI系统能够理解并改进自身代码、架构或训练流程，形成能力增长的正反馈循环
50%UnverifiedTarek 认为递归自我改进不应理解为剧变，而是无数小改进的平滑累积，Claude 写了几乎所有代码本身就是一种递归自我改进
50%Unverified三位研究者达成共识：思考本身无法凭空产生新的比特，只能基于已获得信息更新后验概率
50%Unverified递归自我改进（RSI）是AI安全领域长期关注的核心风险场景，最早由Eliezer Yudkowsky等人系统阐述
50%UnverifiedGAI框架旨在把经典强化学习中的迭代策略改进与递归自我改进纳入同一学习范式来描述
50%