[控场AI]
· 5 分钟阅读· 2,573 字

IMUDINO:首个通用惯性传感基础模型,突破传感器位置与采样率限制

IMUDINO:首个通用惯性传感基础模型,突破传感器位置与采样率限制

IMUDINO 将 DINO 自监督范式引入惯性传感,打造首个多任务通用 IMU 基础模型。

IMUDINO 是首个面向惯性传感的通用基础模型,覆盖人体活动识别、健康监测、动作捕捉和机器人里程计四类任务。针对已有惯性预训练模型窄口径、泛化差的问题,它把视觉领域的 DINO 自蒸馏范式迁移到 IMU 数据,设计语义保持的运动变换构造自监督信号,迫使模型学习对用户、传感器配置变化不变的表征。架构上采用朴素 Transformer 编码器,核心创新是频率感知位置编码,使模型原生支持变长输入和不同采样率,无需重采样。在机器人里程计中,它还展现出跨具身形态的泛化能力。论文摘要未披露具体性能数字与开源计划,实际可用性仍待观察。

惯性传感器(IMU)几乎存在于每一部智能手机、每一副耳机和每一台机器人中,但相比视觉和自然语言领域的基础模型,惯性传感的基础模型研究长期处于碎片化状态。一篇最新论文提出的 IMUDINO 试图改变这一局面——它号称是首个在多种惯性传感任务上都能达到有竞争力性能的通用基础模型,涵盖人体活动识别(HAR)、健康监测、动作捕捉和里程计。

IMUDINO论文截图

为什么惯性传感需要自己的基础模型

过去针对惯性数据的预训练模型往往只聚焦于某一个子领域,比如只做人体活动识别,或者只做步态分析。这种窄口径带来的直接后果是:在 HAR 等任务上,这些模型的性能有时甚至不如精心调优的监督学习方法。与视觉和语言基础模型所展现的跨任务泛化能力相比,惯性传感领域的"基础模型"名不副实。

另一个被忽视的痛点是工程部署层面的。许多已有模型要求固定的输入长度和采样率,一旦设备更换或采样配置变化,模型就需要重新适配。更棘手的是传感器位置泛化——把模型从手腕迁移到口袋或脚踝,性能往往大幅下降。这些限制使得惯性基础模型难以真正"通用"。

用自蒸馏学习运动语义

IMUDINO 的核心思路是把 DINO 自监督学习范式迁移到惯性数据上。DINO 在视觉领域以自蒸馏的方式学习表征,无需人工标注。直接套用到 IMU 数据上并不可行,因为惯性信号没有图像那样的空间结构。研究团队设计了一组"语义保持的运动变换",通过模拟运动模式和传感器配置的变化来构造自监督信号。

这种变换策略的关键在于:变换后的数据在语义上仍然是同一个动作或同一种运动状态,但信号形态会发生变化。模型被迫学习对这些变化不变的表征,从而获得跨用户、跨传感器配置的泛化能力。这比简单的数据增强更进了一步,因为它直接编码了惯性传感中真实存在的变异来源。

DINO 自监督学习范式:DINO(self-distillation with no labels)由 Meta AI 于 2021 年提出,核心是学生网络与教师网络之间的自蒸馏——教师网络是学生网络权重的指数移动平均(EMA),两者分别接收同一图像的不同增强视图,学生被训练去匹配教师输出的概率分布。为避免模型坍缩(所有输入映射到同一表征),DINO 采用 centering 与 sharpening 两个技巧:centering 防止某一维度主导,sharpening 则通过低温 softmax 使分布更尖锐。DINO 无需负样本对和大型记忆库,就能学到可用于分类、分割、检测的高质量视觉表征。IMUDINO 借鉴的正是这种“无需人工标注、靠视图间一致性学习不变表征”的思想,只是把图像增强替换为语义保持的运动变换。

频率感知位置编码与变长输入

架构层面,IMUDINO 采用了一个朴素的 Transformer 编码器,没有引入复杂的专用模块。真正的设计亮点在于频率感知的位置编码(frequency-aware positional encoding)。这一设计让模型原生支持变化的输入长度和采样率,而不需要在预处理阶段把数据重采样到统一规格。

论文中特别强调,这个简单设置"被证明异常有效",能够学习到全局特征和稠密特征,并在用户、传感器设置、任务之间泛化。在机器人里程计任务中,这种泛化能力甚至延伸到了不同的具身形态(embodiments)之间——也就是说,同一个模型可以跨不同机器人平台使用。这一点对于机器人领域的从业者来说意义不小,因为不同平台的 IMU 安装位置和数据特性差异往往很大。

位置编码与变长输入的关系:Transformer 本身对输入顺序不敏感,位置编码负责注入序列位置信息。标准可学习位置编码的长度固定,输入变长时无法直接使用;正弦位置编码虽可外推,但在采样率变化时频率含义会错位。惯性信号的本质是时间序列,其物理意义由采样频率决定——同一动作在 50Hz 与 200Hz 下采样点数不同,但对应的真实时间跨度可能一致。频率感知位置编码的思路是让位置编码显式携带时间或频率信息,使模型能够理解“第几个采样点”背后的真实时间尺度,从而在输入长度和采样率变化时保持表征的一致性。这也是 IMUDINO 无需在预处理阶段重采样、能原生适配不同设备配置的关键所在。

多任务覆盖与通用骨干的潜力

从任务覆盖来看,IMUDINO 同时面向 HAR、健康、动作捕捉和里程计四个方向。这种跨子领域的设计思路与视觉基础模型的演进路径一致:先有一个足够通用的骨干网络,再针对下游任务做轻量适配。作者希望 IMUDINO 能成为惯性传感领域的骨干模型,推动通用惯性基础模型的发展。

说一下,论文摘要层面并未披露具体的性能数字和对比基线细节。从表述看,其"有竞争力"的定位是在多个任务上同时成立的,而非单点突破。对于关注边缘计算和可穿戴设备的开发者来说,一个能原生处理变长输入、适应不同采样率、且对传感器位置不敏感的模型,在工程上的吸引力可能比单纯的精度提升更实际。

惯性里程计与跨具身泛化:惯性里程计(inertial odometry)指仅依靠 IMU 的加速度计和陀螺仪数据推算载体运动轨迹,不依赖 GPS 或视觉。其难点在于积分误差会随时间累积漂移,且不同载体(人、轮式机器人、四足机器人)的运动模式与 IMU 安装方式差异巨大。跨具身(cross-embodiment)泛化意味着同一模型无需针对每个机器人平台重新训练,就能处理不同平台的 IMU 数据分布。这一能力对机器人领域尤为重要:真实机器人平台种类繁多,为每种平台单独采集标注数据并训练里程计模型成本极高,通用骨干网络可显著降低部署门槛。

对开发者意味着什么

惯性传感的基础模型长期缺位,部分原因是数据标注成本高、设备异构性强。IMUDINO 用自监督方式绕开了标注瓶颈,用频率感知编码绕开了设备异构性。这两个设计选择如果能在后续工作中得到验证和开源支持,将降低可穿戴与机器人应用接入基础模型的门槛。目前该工作处于论文发布阶段,代码与模型权重是否开放尚未明确,实际可用性有待观察。

#IMUDINO#惯性传感基础模型#自监督学习#DINO#Transformer#人体活动识别#传感器泛化
分享:

相关推荐