下一token预测

语言模型的核心预训练目标，通过预测序列中下一个token来学习数据中的统计规律与抽象表征，被认为是压缩世界知识的机制基础