ScaleBrain
一种尺度一致的脑电(EEG)基础模型预训练框架,通过多尺度EEG分词和尺度特定重建实现输入与目标协同设计,并采用轴向时空注意力融合多尺度表征。
时间轴 (近 90 天)
研究者提出ScaleBrain,一个从模型输入与优化目标两端显式协调多尺度表征的尺度一致预训练框架。
ScaleBrain引入多尺度EEG分词方法,通过不同时间跨度的分析窗口和共享时间锚点表示同一段EEG信号,使模型输入天然具备尺度结构。
ScaleBrain采用尺度特定重建作为自监督目标,确保每个时间分辨率都能获得充分的监督信号。
ScaleBrain设计轴向时空注意力机制,沿空间和时间两个维度对融合后的多尺度表征进行上下文建模,分别捕捉电极间的空间关联与时间上的动态依赖。
ScaleBrain在六个公开BCI基准数据集上进行了广泛评估,并与12个代表性基线方法对比。
ScaleBrain在五个数据集上取得最高的平均平衡准确率(mean Balanced Accuracy),在剩余一个数据集上排名第三。
ScaleBrain仅包含5.0M参数。
轴向注意力在视频理解、高维图像生成中已有成熟应用,ScaleBrain将其迁移到EEG多尺度表征融合上。
全部知识事实 (8)
研究者提出ScaleBrain,一个从模型输入与优化目标两端显式协调多尺度表征的尺度一致预训练框架。
50%待验证ScaleBrain引入多尺度EEG分词方法,通过不同时间跨度的分析窗口和共享时间锚点表示同一段EEG信号,使模型输入天然具备尺度结构。
50%待验证ScaleBrain采用尺度特定重建作为自监督目标,确保每个时间分辨率都能获得充分的监督信号。
50%待验证ScaleBrain设计轴向时空注意力机制,沿空间和时间两个维度对融合后的多尺度表征进行上下文建模,分别捕捉电极间的空间关联与时间上的动态依赖。
50%待验证ScaleBrain在六个公开BCI基准数据集上进行了广泛评估,并与12个代表性基线方法对比。
50%待验证ScaleBrain在五个数据集上取得最高的平均平衡准确率(mean Balanced Accuracy),在剩余一个数据集上排名第三。
50%待验证ScaleBrain仅包含5.0M参数。
50%待验证轴向注意力在视频理解、高维图像生成中已有成熟应用,ScaleBrain将其迁移到EEG多尺度表征融合上。
50%