待验证50% 置信事实精确时间

GPT系列模型通过预测下一个词的自监督任务在万亿级文本数据上训练

1

来源数

50%

置信度

长期有效

时效性

2026/7/12

首次发现

来源

不禁用AI：师生共建课堂契约的教学实验与启示

hackernewshackernews2026/7/3

相关事实

待验证自监督学习是GPT系列模型的训练基础，通过预测文本中被遮蔽的下一个词进行学习84% 相似已验证GPT系列采用「预测下一个词」的自回归训练目标81% 相似待验证GPT系列底层架构基于自回归语言模型，通过逐Token预测的方式生成文本81% 相似待验证谷歌DeepMind的研究发现GPT类模型在特定提示条件下可精确复现训练集中约1%的文本片段78% 相似已验证GPT和BERT等大语言模型基于自监督学习范式77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/489104

API

curl https://kongchang.com/api/v1/knowledge/claims/489104

MCP

get_claim(id=489104)