待验证60% 置信事实时间未知
Chinchilla定律指出在固定计算预算下,适当缩小模型规模并增加训练数据量往往能获得更好的性能
2
来源数
60%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
Qwen3.6-27B开源模型评测:27B参数实现旗舰级代码与多模态能力
bilibili百炼ai小助手
涉及实体
相关事实
已验证2022年DeepMind的Chinchilla论文指出同等算力预算下应均衡增大模型尺寸与训练数据量82% 相似待验证论文发现对于固定的算力预算,训练一个更小的模型训练更长时间,往往比训练大模型效果更好,这与Chinchilla定律相悖79% 相似待验证Chinchilla缩放定律指出最优训练token数应与模型参数量成正比,参数翻倍时训练数据和计算成本至少翻倍78% 相似已验证通过更高质量的训练数据、更优化的训练策略和更精细的后训练对齐,较小规模的模型可以在实际任务上完全超越规模更大但训练质量较低的模型75% 相似已验证DeepMind的Chinchilla研究(2022)指出最优训练应让数据量与参数量保持大致1:1的比例增长74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/17951API
curl https://kongchang.com/api/v1/knowledge/claims/17951MCP
get_claim(id=17951)