待验证50% 置信事实精确时间
Chinchilla研究发现在固定计算预算下参数量和训练token数应按大致1:20比例匹配
1
来源数
50%
置信度
长期有效
时效性
2026/8/27
首次发现
来源
涉及实体
相关事实
待验证2022年Hoffman等人的Chinchilla论文重新校准了算力最优的参数-数据比例，指出此前许多大模型训练不充分73% 相似待验证DeepMind提出的Chinchilla最优策略指出，对于给定计算预算，存在最优的参数量与数据量比例关系，约为1:2073% 相似已验证2022年Hoffmann等人的Chinchilla论文在四百个模型上重做实验，得出在算力最优前提下每个参数应对应约20个token的结论66% 相似待验证Chinchilla定律大致按每个参数分配20倍token的比例来安排算力65% 相似待验证研究团队在十亿参数规模的稀疏LLM上测得推理和训练速度提升超过20%64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/810401API
curl https://kongchang.com/api/v1/knowledge/claims/810401MCP
get_claim(id=810401)