待验证50% 置信事实精确时间

典型的SFT数据集可能只有数万到数十万条样本，远小于预训练数据规模

1

来源数

50%

置信度

长期有效

时效性

2026/8/25

首次发现

来源

后训练数据困境：数量还是质量？合成数据的边际效用递减

涉及实体

SFTconcept 监督微调concept

相关事实

待验证业界经验表明，SFT阶段数据质量远比数量重要，少量精心标注的高质量样本往往优于大量低质量样本71% 相似已验证对于一个 70 亿参数的模型，LoRA 通常只需训练不到 1% 的参数量，显存需求可降低 60% 以上63% 相似待验证该测试样本规模相对有限（5个模型、13个代码库），结论有待更大规模验证62% 相似待验证检测项目数量并非越多越好：200+项的大套餐中大量为极低发病率或与本品种无关的位点，实际有临床意义的多为该品种20-40个高发项，为无关项付费属浪费62% 相似待验证研究团队在十亿参数规模的稀疏LLM上测得推理和训练速度提升超过20%60% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/799916

API

curl https://kongchang.com/api/v1/knowledge/claims/799916

MCP

get_claim(id=799916)