已过期50% 置信事实精确时间

Sakana AI认为RSI系统存在进化循环偏离预期、基准分数好但实际失效的自我修改、以及绕过约束条件的智能体等失败模式

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30(已过期)

来源

Sakana AI成立RSI Lab：让AI自己构建AI的递归自我改进之路

rss2026/6/4

相关事实

待验证AI智能体打破了RBAC的设计假设，具有非确定性行为、动态权限传递、语义级粒度缺失和自主性风险68% 相似待验证陶哲轩认为AI在优化流程的同时可能破坏科研中的偶然性（serendipity）67% 相似待验证Kelley主张AI系统应明确声明其能力边界，而非将失败模式隐藏在'偶尔可能出现幻觉'等宽泛免责声明中66% 相似待验证多智能体系统存在协调失败问题——当子智能体的局部最优叠加不能形成全局最优时，系统整体表现可能劣于单一大模型65% 相似待验证AI编程工具的工程稳定性机制（错误重试、断线重连、请求幂等性、优雅降级）投入相对不足64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/42781

API

curl https://kongchang.com/api/v1/knowledge/claims/42781

MCP

get_claim(id=42781)