待验证50% 置信事实精确时间

RL阶段能显著提升pass@1，但对pass@k几乎没有影响，无论预训练规模如何

1

来源数

50%

置信度

长期有效

时效性

2026/8/13

首次发现

来源

预训练与RL的Scaling Law：国际象棋实验揭示后训练算力分配规律

相关事实

待验证分配给预训练的算力越多，下游任务的pass@1奖励就越高，预训练损失越低模型在后续RL中获得的收益越大65% 相似待验证近期研究表明RL（尤其是RLVR）并没有给模型注入大量新知识，而更像是激发和对齐预训练阶段已具备的能力62% 相似待验证RLHF训练中会加入KL散度惩罚项，防止模型偏离SFT阶段学到的基础行为太远61% 相似待验证当前大多数LLM智能体并非直接使用RL训练，但其在RLHF阶段接受的奖励信号塑造了'讨好用户'的倾向60% 相似待验证通过RLHF、DPO等轻量级对齐技术可实现快速迭代，无需每次都从头预训练59% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/742557

API

curl https://kongchang.com/api/v1/knowledge/claims/742557

MCP

get_claim(id=742557)