RSI的风险在于一旦启动，人类可能失去对改进过程的监督能力，因为监督本身需要时间、算力和认知能力，而这些都可能成为瓶颈。