概念Self-supervised Learning / SSL
自监督学习
无需人工标注标签的机器学习范式,通过数据自身的结构构造监督信号,DINOv2等模型的训练方法
核心事实
时间轴 (近 90 天)
10月6日
无监督或自监督学习范式对于缺乏对照翻译的非人类通信研究尤为关键
待验证50%
10月4日
深度估计主流方法分为两大路线:基于几何的多视图立体(MVS)和基于深度学习的单目深度估计
待验证50%
9月14日
该方案本质上是一种自监督学习应用,利用生成过程本身产生完美对齐的监督信号
待验证50%
9月11日
自监督TTT工作最早可追溯到2020年前后,通过在测试样本上构建辅助自监督任务(如旋转预测)让模型适配当前输入
待验证50%
9月5日
当前主流的大语言模型和AI系统基于海量数据的自监督学习与强化学习相结合的训练方式
待验证50%
8月30日
自监督学习通过从数据自身构造监督信号,已成为 BERT、GPT、MAE 等大规模预训练模型的核心训练策略
待验证50%
7月12日
上下文学习最初在大语言模型中被观察到,其能力本质源于预训练数据的多样性
已验证75%
全部知识事实 (8)
已验证
大语言模型的预训练阶段本质上属于自监督学习,是一种特殊的非监督学习,模型通过预测下一个词来从海量文本中自动学习语言规律
80%已验证上下文学习最初在大语言模型中被观察到,其能力本质源于预训练数据的多样性
75%待验证无监督或自监督学习范式对于缺乏对照翻译的非人类通信研究尤为关键
50%待验证深度估计主流方法分为两大路线:基于几何的多视图立体(MVS)和基于深度学习的单目深度估计
50%待验证该方案本质上是一种自监督学习应用,利用生成过程本身产生完美对齐的监督信号
50%待验证自监督TTT工作最早可追溯到2020年前后,通过在测试样本上构建辅助自监督任务(如旋转预测)让模型适配当前输入
50%待验证当前主流的大语言模型和AI系统基于海量数据的自监督学习与强化学习相结合的训练方式
50%待验证自监督学习通过从数据自身构造监督信号,已成为 BERT、GPT、MAE 等大规模预训练模型的核心训练策略
50%