模型
Perceiver
一种基于潜在瓶颈的神经网络架构，使用少量可学习潜在单元通过交叉注意力压缩任意规模输入并还原到目标模态，计算复杂度不随输入规模线性增长。
时间轴 (近 90 天)
10月14日
查询式解码器借鉴了Perceiver等潜在瓶颈架构的思想：用少量潜在单元压缩任意规模输入，再通过交叉注意力还原到目标模态，使计算复杂度不再随输入像素数线性增长。
待验证50%
一种基于潜在瓶颈的神经网络架构，使用少量可学习潜在单元通过交叉注意力压缩任意规模输入并还原到目标模态，计算复杂度不随输入规模线性增长。
查询式解码器借鉴了Perceiver等潜在瓶颈架构的思想：用少量潜在单元压缩任意规模输入，再通过交叉注意力还原到目标模态，使计算复杂度不再随输入像素数线性增长。