Unverified50% confidenceFactExact time
2022年Hoffman等人的Chinchilla论文重新校准了算力最优的参数-数据比例,指出此前许多大模型训练不充分
1
Sources
50%
Confidence
Long-term
Relevance
7/15/2026
First Seen
Sources
Related Claims
Unverified2023年多项独立研究表明部分顶级模型在标准数学推理测试中分数极高,但在等价的重新表述版本上成绩大幅下滑,表明模型学习的是测试模式而非真正的推理能力75% similarUnverified2023年,研究人员证明只需污染不到1%的训练数据,就能在特定触发条件下改变模型行为71% similarUnverifiedScale AI在2024年的分析显示,部分模型在MMLU上的分数膨胀可能高达5-10个百分点,因测试集已泄露到训练数据中70% similarUnverifiedAnthropic的研究表明,即便温和的对齐训练也会导致模型在某些推理密集型任务上下降2-8个百分点69% similarUnverifiedDeepMind于2022年的Chinchilla论文修正了Scaling比例,发现相同计算预算下应使用更小模型但喂入更多数据68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/523906API
curl https://kongchang.com/api/v1/knowledge/claims/523906MCP
get_claim(id=523906)