Verified65% confidenceFactTime unknown
大模型训练经历三个核心阶段：预训练、有监督微调（SFT）和偏好对齐
3
Sources
65%
Confidence
Long-term
Relevance
6/3/2026
First Seen
Sources
大模型训练全流程解析：预训练、SFT微调与偏好对齐通俗详解
bilibili小全栈
Related Entities
Related Claims
Unverified训练GPT-3等千亿参数模型需要配合学习率预热（Warmup）、余弦退火（Cosine Annealing）等调度策略，以及混合精度训练、梯度累积等工程技巧80% similarVerified从预训练检查点到可商用产品需经历监督式指令微调（SFT）和基于人类反馈的强化学习（RLHF）两个后训练阶段78% similarUnverified大模型的工程落地分为训练和推理两个核心环节77% similarUnverified用强模型生成高质量SFT轨迹再用于训练下一代模型（自举/bootstrapping）是当前业界流行策略76% similarUnverified继续预训练（CPT）是在通用基座模型上用领域语料进行额外的无监督训练，让模型吸收领域知识76% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/39838API
curl https://kongchang.com/api/v1/knowledge/claims/39838MCP
get_claim(id=39838)