待验证50% 置信事实精确时间
ChatGPT训练中预训练阶段使用非监督学习做下一个词预测，指令微调阶段引入监督学习，最后通过RLHF对齐模型输出
1
来源数
50%
置信度
长期有效
时效性
2026/9/20
首次发现
来源
涉及实体
相关事实
已验证RLHF（基于人类反馈的强化学习）是ChatGPT等对话模型背后的关键训练技术77% 相似已验证现代大语言模型通常经历预训练、监督微调（SFT）和基于人类反馈的强化学习（RLHF）三个训练阶段77% 相似待验证ChatGPT、Claude等大语言模型的核心工作原理是基于海量训练数据的下一个token预测77% 相似已验证大语言模型的预训练阶段本质上属于自监督学习，是一种特殊的非监督学习，模型通过预测下一个词来从海量文本中自动学习语言规律75% 相似待验证BERT 使用 Masked Language Modeling 作为预训练任务，GPT 使用 Causal Language Modeling（预测下一个词）作为预训练任务75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/936597API
curl https://kongchang.com/api/v1/knowledge/claims/936597MCP
get_claim(id=936597)