[控场AI]
论文VideoLVR: Latent Visual Reasoning over Grounded Video Evidence

VideoLVR

一篇关于视频理解中潜视觉推理的论文,提出用潜视觉状态作为视觉证据来缓解视觉遗忘问题,统一视觉重建与文本生成的token预测框架,并可扩展到强化学习优化。

时间轴 (近 90 天)

10月28日

VideoLVR 论文提出在相关视频时刻从局部区域构建潜视觉证据,为中间推理步骤提供视觉支撑。

待验证50%
10月28日

VideoLVR 将视觉 token 的重建形式化为在由输入视频派生出的词表上做预测,从而将视觉证据重建与文本生成统一进同一个 token 预测框架。

待验证50%
10月28日

在 VideoLVR 的统一 token 预测框架中,交叉熵损失可同时作用于文本 token 和视觉 token,视觉重建与语言建模共享同一套输出头与训练目标。

待验证50%
10月28日

论文在多组视频基准上验证了 VideoLVR 方法的有效性,并指出在需要细粒度视觉证据的任务上收益更为突出。

待验证50%
10月28日

VideoLVR 的强化学习范式需要策略网络学习何时插入视觉证据、从哪个时刻取、取哪块区域。

待验证50%
10月28日

对于多步定位证据的视频任务,端到端的奖励驱动优化比纯粹的监督学习更贴近实际使用目标。

待验证50%

全部知识事实 (6)

来源文章