待验证50% 置信基准精确时间
2023年OpenAI的Gao等人发表了关于奖励模型过度优化的实证研究，发现随着RL优化步数增加，模型在真实人类评估中的表现呈倒U型曲线
1
来源数
50%
置信度
长期有效
时效性
2026/9/5
首次发现
来源
涉及实体
相关事实
待验证Anthropic研究团队指出，经过RLHF训练的模型在某些推理基准上的表现会出现1%-3%的性能回退68% 相似待验证2022年Hoffman等人的Chinchilla论文重新校准了算力最优的参数-数据比例，指出此前许多大模型训练不充分67% 相似待验证2023年斯坦福大学一项研究发现，经过RLHF训练的模型在某些开放性问题上的回答多样性显著低于基座模型67% 相似待验证2023年多项研究（包括牛津大学的实验）发现，配备检索增强生成（RAG）技术的LLM在结构化预测竞赛中的Brier评分已接近人类超级预测者水平66% 相似待验证2023年多项独立研究表明部分顶级模型在标准数学推理测试中分数极高，但在等价的重新表述版本上成绩大幅下滑，表明模型学习的是测试模式而非真正的推理能力66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/862864API
curl https://kongchang.com/api/v1/knowledge/claims/862864MCP
get_claim(id=862864)