Gen4P
一种将预训练视频生成器重新用作前馈式4D感知器的模型框架,通过按需查询机制跳过迭代去噪,直接从单目视频恢复4D几何与运动信息
时间轴 (近 90 天)
Gen4P 提出预训练的视频生成器可以被重新利用,成为一个前馈式的4D感知器,从单目视频中恢复4D几何与运动信息。
Gen4P 证明了一个预训练的视频生成器无需迭代去噪,就能直接充当4D感知器。
Gen4P 建立在“按需查询”(on-demand querying)机制之上,让干净的视频潜变量通过一次编码器前向传播,随后通过一个轻量级的交叉注意力解码器,预测出4D属性。
Gen4P 预测的4D属性包括3D点轨迹、视频深度和相机位姿。
Gen4P 的连续时间查询(continuous-time queries)允许模型在任意时空位置查询4D信息,而不是受限于固定的网格或帧率。
研究团队将预训练的视频深度 LoRA 作为冻结的几何先验引入 Gen4P,在不增加额外可训练参数的前提下提升了整体性能。
Gen4P 在3D点跟踪、视频深度估计和相机位姿估计任务上取得了 state-of-the-art 或有竞争力的表现。
在野外视频上的定性结果显示,Gen4P 能够跟踪复杂运动并保持精细结构,面对遮挡、快速运动和复杂场景时具备一定的鲁棒性。
Gen4P 的项目页面为 https://gen4p.github.io。
全部知识事实 (9)
Gen4P 提出预训练的视频生成器可以被重新利用,成为一个前馈式的4D感知器,从单目视频中恢复4D几何与运动信息。
50%待验证Gen4P 证明了一个预训练的视频生成器无需迭代去噪,就能直接充当4D感知器。
50%待验证Gen4P 建立在“按需查询”(on-demand querying)机制之上,让干净的视频潜变量通过一次编码器前向传播,随后通过一个轻量级的交叉注意力解码器,预测出4D属性。
50%待验证Gen4P 预测的4D属性包括3D点轨迹、视频深度和相机位姿。
50%待验证Gen4P 的连续时间查询(continuous-time queries)允许模型在任意时空位置查询4D信息,而不是受限于固定的网格或帧率。
50%待验证研究团队将预训练的视频深度 LoRA 作为冻结的几何先验引入 Gen4P,在不增加额外可训练参数的前提下提升了整体性能。
50%待验证Gen4P 在3D点跟踪、视频深度估计和相机位姿估计任务上取得了 state-of-the-art 或有竞争力的表现。
50%待验证在野外视频上的定性结果显示,Gen4P 能够跟踪复杂运动并保持精细结构,面对遮挡、快速运动和复杂场景时具备一定的鲁棒性。
50%待验证Gen4P 的项目页面为 https://gen4p.github.io。
50%