模型Ouro-2.6B
Ouro-2.6B
一种循环Transformer模型,参数量为2.6B,通过重复应用相同层提升参数效率。
时间轴 (近 90 天)
11月17日
在七个基准测试上,LoopFill相比贪心自回归解码在Ouro-2.6B上实现了5.85倍的平均加速。
待验证50%
11月17日
LoopFill比最强基线LoopAhead在Ouro-2.6B上高出40%的加速。
待验证50%
一种循环Transformer模型,参数量为2.6B,通过重复应用相同层提升参数效率。
在七个基准测试上,LoopFill相比贪心自回归解码在Ouro-2.6B上实现了5.85倍的平均加速。
LoopFill比最强基线LoopAhead在Ouro-2.6B上高出40%的加速。