概念MoR / 递归混合
Mixture-of-Recursions
一种将权重共享与动态路由相结合的神经网络架构范式，通过在共享参数上执行不同次数递归，在深度维度上实现稀疏计算，兼顾参数效率与计算效率
时间轴 (近 90 天)
10月8日
MoR-MLLM建立在Mixture-of-Recursions（MoR，递归混合）框架之上
待验证50%
10月8日
Mixture-of-Recursions是一种将权重共享与动态路由相结合的神经网络架构范式，模型不同层之间共享同一组参数
待验证50%
10月8日
MoE在宽度维度（选择哪些专家）上做稀疏，而MoR在深度维度（经过多少层计算）上做稀疏
待验证50%