模型Huginn-3.5B
Huginn-3.5B
一种循环Transformer模型,参数量为3.5B,通过重复应用相同层提升参数效率。
时间轴 (近 90 天)
11月17日
在七个基准测试上,LoopFill相比贪心自回归解码在Huginn-3.5B上实现了5.13倍的平均加速。
待验证50%
11月17日
LoopFill比最强基线LoopAhead在Huginn-3.5B上高出25%的加速。
待验证50%
一种循环Transformer模型,参数量为3.5B,通过重复应用相同层提升参数效率。
在七个基准测试上,LoopFill相比贪心自回归解码在Huginn-3.5B上实现了5.13倍的平均加速。
LoopFill比最强基线LoopAhead在Huginn-3.5B上高出25%的加速。