待验证50% 置信事实精确时间

从大模型剪枝得到的同尺寸模型，往往能用更少的训练token达到相当甚至更好的性能

1

来源数

50%

置信度

长期有效

时效性

2026/9/5

首次发现

来源

IDEA Prune：先扩大再剪枝，大语言模型预训练新范式解析

涉及实体

结构化剪枝concept

相关事实

已验证通过更高质量的训练数据、更优化的训练策略和更精细的后训练对齐，较小规模的模型可以在实际任务上完全超越规模更大但训练质量较低的模型78% 相似待验证论文发现对于固定的算力预算，训练一个更小的模型训练更长时间，往往比训练大模型效果更好，这与Chinchilla定律相悖70% 相似待验证针对特定领域精心训练的专用超分模型效果往往优于通用模型70% 相似待验证微调通常只需原始训练成本的百分之一甚至更少，便能获得接近专用模型的领域表现70% 相似待验证用小模型做技能提炼、大模型做实际执行可能是更优的成本-性能组合70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/860346

API

curl https://kongchang.com/api/v1/knowledge/claims/860346

MCP

get_claim(id=860346)