待验证50% 置信事实精确时间

自监督学习是GPT系列模型的训练基础，通过预测文本中被遮蔽的下一个词进行学习

1

来源数

50%

置信度

长期有效

时效性

2026/7/15

首次发现

来源

AI大模型入门：核心概念、发展历程与国产模型格局

相关事实

已验证GPT系列模型通过预测下一个词的自监督任务在万亿级文本数据上训练84% 相似已验证GPT系列采用「预测下一个词」的自回归训练目标82% 相似待验证自监督学习利用数据自身生成伪标签，在GPT系列等语言模型和视觉表示学习中取得突破性成果82% 相似已验证GPT和BERT等大语言模型基于自监督学习范式82% 相似待验证GPT、BERT、CLIP等模型均建立在自监督学习思想之上78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/515615

API

curl https://kongchang.com/api/v1/knowledge/claims/515615

MCP

get_claim(id=515615)