递归自我改进
AI安全领域核心概念，指AI系统修改自身架构、算法或训练过程以产生能力更强的后继版本，形成正反馈循环，由I.J.古德在1965年首次系统阐述
核心事实
时间轴 (近 90 天)
在智能体框架优化中，区分框架优化是在已有能力范围内更可靠地成功（激发，elicitation）还是拓展了可解决任务的范围（扩展，expansion）对于递归自我改进和进化搜索至关重要。
缓存策略的递归自我改进（recursive self-improvement）在专家设计基础上进一步降低成本7.1%。
在LLM语境下，递归自我改进不必是模型直接修改自身权重，而可以表现为模型提出架构、数据或训练配方层面的改进提案，再由外部流程验证和执行。
即插即用的递归harness系统通过反复精炼执行管线，在不改变模型权重的情况下实现了持续的基准提升。
递归自我改进（RSI）指AI系统直接参与改进下一代AI系统，使每一代模型的进步速度因上一代模型的帮助而加快；与传统人类研究员主导的改进模式关键区别在于改进回路中人类的参与比例下降，迭代周期可能从数月压缩到数周甚至更短。
在递归自我改进的语境下存在“目标漂移”担忧：系统在迭代中可能发展出与原始设计者意图不一致的次级目标。
在Hacker News的讨论中，部分评论者认为“递归自我改进”在当下更像是一个营销化的叙事框架，而非可验证的技术里程碑，并指出缺乏公开的量化证据。
有反对者指出，现实中存在算力、数据、实验验证等硬性约束，可能使递归自我改进过程远比理论设想缓慢。
OpenAI研究员Roon公开表示对齐问题尚未解决，全速冲向递归自我改进（RSI）将是一场世界历史上前所未有的愚行，并主张很快需要显著放缓前沿研究。
RSI的风险在于一旦启动，人类可能失去对改进过程的监督能力，因为监督本身需要时间、算力和认知能力，而这些都可能成为瓶颈。
还有 40 条时间轴事件
全部知识事实 (20)
自我改进AI系统能够自主优化自身算法和能力，一旦突破某个临界点，可能进入快速递归自我改进循环
85%已验证RSI（递归自我改进）指的是AI能够自己创造下一个版本的自己
80%已验证递归自我改进（recursive self-improvement）指AI加速AI的正反馈循环使技术进步可能呈指数级增长
75%已验证AI提效的基础是人已完成参数定位；大模型无法在缺乏人工引导下可靠地自动完成定位工作
75%已验证当前递归自我改进的落地形式包括AI辅助编程、AI辅助研究和自动化训练流程优化
75%已验证在企业级AI应用中，提示词优化往往能带来比模型升级更显著的性能提升
70%已验证数学家I.J. Good在1965年提出了'智能爆炸'假说，认为一旦机器智能超过人类，它将能够设计出更聪明的机器，触发指数级的能力跃升
70%已验证RSI（Recursive Self-Improvement，递归自我改进）指一个系统能够不断优化自己的能力，形成正反馈循环
65%已验证AI显著降低了工程化门槛，但并未彻底消除学习曲线，系统设计思维和工程化能力仍然需要持续积累
65%已验证I.J. 古德于1965年发表论文《关于第一台超智能机器的推测》（Speculations Concerning the First Ultraintelligent Machine）
65%待验证论文的结论是基于测试时的模型版本，属于'截至测试时'的快照，而非永久性判断
70%待验证在智能体框架优化中，区分框架优化是在已有能力范围内更可靠地成功（激发，elicitation）还是拓展了可解决任务的范围（扩展，expansion）对于递归自我改进和进化搜索至关重要。
50%待验证缓存策略的递归自我改进（recursive self-improvement）在专家设计基础上进一步降低成本7.1%。
50%待验证在LLM语境下，递归自我改进不必是模型直接修改自身权重，而可以表现为模型提出架构、数据或训练配方层面的改进提案，再由外部流程验证和执行。
50%待验证即插即用的递归harness系统通过反复精炼执行管线，在不改变模型权重的情况下实现了持续的基准提升。
50%待验证递归自我改进（RSI）指AI系统直接参与改进下一代AI系统，使每一代模型的进步速度因上一代模型的帮助而加快；与传统人类研究员主导的改进模式关键区别在于改进回路中人类的参与比例下降，迭代周期可能从数月压缩到数周甚至更短。
50%待验证在递归自我改进的语境下存在“目标漂移”担忧：系统在迭代中可能发展出与原始设计者意图不一致的次级目标。
50%待验证在Hacker News的讨论中，部分评论者认为“递归自我改进”在当下更像是一个营销化的叙事框架，而非可验证的技术里程碑，并指出缺乏公开的量化证据。
50%待验证有反对者指出，现实中存在算力、数据、实验验证等硬性约束，可能使递归自我改进过程远比理论设想缓慢。
50%待验证OpenAI研究员Roon公开表示对齐问题尚未解决，全速冲向递归自我改进（RSI）将是一场世界历史上前所未有的愚行，并主张很快需要显著放缓前沿研究。
50%