待验证50% 置信预测精确时间
作者判断更大规模模型配合更多数据是触觉预训练的自然下一步,暗示该领域可能仍处于数据与容量的 scaling 早期阶段。
1
来源数
50%
置信度
长期有效
时效性
2026/11/9
首次发现
来源
涉及实体
相关事实
待验证该理论的核心预测是:上下文预测器很早就可用,在训练数据量尚小时就已经存在;而专业化预测器只有在训练token数量超过数据生成过程的参数量之后才会出现。77% 相似已验证在推理阶段投入更多计算(test-time compute scaling)可显著提升模型表现,且往往比等量的训练阶段计算投入更具性价比76% 相似待验证研究表明即便合成数据与真实数据存在分布差距,只要预训练模型学到了足够通用的解剖特征表示,少量真实数据的微调便足以弥合这一差距75% 相似待验证过拟合指模型在训练集表现极好但在新数据泛化能力差的现象,在样本量偏小的药学数据集中风险尤为突出74% 相似已验证中期训练指在预训练与后训练之间插入的、使用大规模领域相关数据继续训练模型的阶段,与监督微调的区别在于数据规模更大、目标更偏向能力塑造而非任务对齐。74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1152667API
curl https://kongchang.com/api/v1/knowledge/claims/1152667MCP
get_claim(id=1152667)