Unverified50% confidenceOpinionExact time
对于参数量有限的小模型，数据质量对最终性能的影响甚至超过数据量本身
1
Sources
50%
Confidence
Long-term
Relevance
7/13/2026
First Seen
Sources
不到350元训练亿参数模型：SmoLLM从零构建全记录
redditr/learnmachinelearning7/12/2026
Related Claims
Unverified对于参数量大于30B的模型，4-bit量化造成的性能损失通常在基准测试中下降1-3%，但对小模型影响更显著74% similarUnverified统计显著不等于实际显著，即使 p 值很小，如果实际改进幅度微不足道其工程价值仍然有限，这在统计学上对应统计功效与效应量的差别71% similarUnverified参数量更多的模型通常理解能力更强，但响应速度更慢且消耗更多tokens71% similarUnverified大模型的性能提升已经明显放缓，最近新版本的评分甚至不一定超越之前的模型，能力基本已定型71% similarUnverified假设数据服从高斯分布，最大化似然等价于最小化均方误差70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/502362API
curl https://kongchang.com/api/v1/knowledge/claims/502362MCP
get_claim(id=502362)