SPW-Nav
语言驱动的流式全景世界模型,能够理解自然语言移动指令并以流式方式实时生成360度全景视频,支持即时指令切换与长时序连续导航
时间轴 (近 90 天)
SPW-Nav是一个能够理解移动指令并以流式方式从单张全景图实时生成一分钟2K级360度视频的世界模型
SPW-Nav由arXiv上题为《SPW-Nav: A Streaming Panoramic World Model for Language-Guided Navigation》的论文提出
SPW-Nav将上一帧生成的全景图中的每条语言指令解读为对应的相机位移与旋转,从而驱动画面持续变化
SPW-Nav提出了三项技术设计:球面旋转解耦、位姿对齐条件化、多项记忆与少步生成器
球面旋转解耦将旋转变换直接建模为球面上的刚体运动(SO(3)群上的操作),再投影回平面,而非直接操作平面像素
位姿对齐条件化将平移输入约束在有界范围内,从而在长序列生成中保持稳定
多项记忆机制配合少步生成器使得指令发生变化时场景能够平滑延续而非突兀切换,支持即时指令切换能力
研究团队构建了专门数据集SPW-NavSet,包含带有相机轨迹和经过验证指令的全景视频
在语言驱动条件下,SPW-Nav在相机跟随准确度和视频质量两项指标上均优于此前的全景生成器
SPW-Nav作为新发布的预印本论文,其真实泛化能力、复杂场景下的稳定性及计算成本仍有待社区进一步验证
全部知识事实 (10)
SPW-Nav是一个能够理解移动指令并以流式方式从单张全景图实时生成一分钟2K级360度视频的世界模型
50%待验证SPW-Nav由arXiv上题为《SPW-Nav: A Streaming Panoramic World Model for Language-Guided Navigation》的论文提出
50%待验证SPW-Nav将上一帧生成的全景图中的每条语言指令解读为对应的相机位移与旋转,从而驱动画面持续变化
50%待验证SPW-Nav提出了三项技术设计:球面旋转解耦、位姿对齐条件化、多项记忆与少步生成器
50%待验证球面旋转解耦将旋转变换直接建模为球面上的刚体运动(SO(3)群上的操作),再投影回平面,而非直接操作平面像素
50%待验证位姿对齐条件化将平移输入约束在有界范围内,从而在长序列生成中保持稳定
50%待验证多项记忆机制配合少步生成器使得指令发生变化时场景能够平滑延续而非突兀切换,支持即时指令切换能力
50%待验证研究团队构建了专门数据集SPW-NavSet,包含带有相机轨迹和经过验证指令的全景视频
50%待验证在语言驱动条件下,SPW-Nav在相机跟随准确度和视频质量两项指标上均优于此前的全景生成器
50%待验证SPW-Nav作为新发布的预印本论文,其真实泛化能力、复杂场景下的稳定性及计算成本仍有待社区进一步验证
50%