[控场AI]
模型Streaming Panoramic World Model

SPW-Nav

语言驱动的流式全景世界模型,能够理解自然语言移动指令并以流式方式实时生成360度全景视频,支持即时指令切换与长时序连续导航

时间轴 (近 90 天)

10月8日

SPW-Nav是一个能够理解移动指令并以流式方式从单张全景图实时生成一分钟2K级360度视频的世界模型

待验证50%
10月8日

SPW-Nav由arXiv上题为《SPW-Nav: A Streaming Panoramic World Model for Language-Guided Navigation》的论文提出

待验证50%
10月8日

SPW-Nav将上一帧生成的全景图中的每条语言指令解读为对应的相机位移与旋转,从而驱动画面持续变化

待验证50%
10月8日

SPW-Nav提出了三项技术设计:球面旋转解耦、位姿对齐条件化、多项记忆与少步生成器

待验证50%
10月8日

球面旋转解耦将旋转变换直接建模为球面上的刚体运动(SO(3)群上的操作),再投影回平面,而非直接操作平面像素

待验证50%
10月8日

位姿对齐条件化将平移输入约束在有界范围内,从而在长序列生成中保持稳定

待验证50%
10月8日

多项记忆机制配合少步生成器使得指令发生变化时场景能够平滑延续而非突兀切换,支持即时指令切换能力

待验证50%
10月8日

研究团队构建了专门数据集SPW-NavSet,包含带有相机轨迹和经过验证指令的全景视频

待验证50%
10月8日

在语言驱动条件下,SPW-Nav在相机跟随准确度和视频质量两项指标上均优于此前的全景生成器

待验证50%
10月8日

SPW-Nav作为新发布的预印本论文,其真实泛化能力、复杂场景下的稳定性及计算成本仍有待社区进一步验证

待验证50%

全部知识事实 (10)

来源文章