待验证50% 置信观点精确时间

VICO论文指出当模型能力提升时，固定不变的训练任务会偏离其学习前沿，导致学习信号坍塌

1

来源数

50%

置信度

长期有效

时效性

2026/10/9

首次发现

来源

VICO框架：让视觉环境与视觉语言模型协同进化

涉及实体

相关事实

待验证随着预训练模型规模扩大，许多曾经有效的显式知识注入技巧逐渐失效甚至产生负面效果78% 相似待验证在训练大模型时，梯度累积、动量更新、权重衰减等操作本质上都是加法，当权重较大而梯度更新极小时部分学习信号可能被静默丢弃76% 相似已验证在后训练阶段，过低的损失可能对应过拟合，即模型死记硬背训练数据而丧失泛化能力75% 相似待验证当线上数据分布偏离训练数据时，模型性能会退化（数据漂移与模型衰减），需要触发重新训练74% 相似待验证传统草稿模型针对单一目标模型在狭窄分布上训练，工作负载变化时接受率会急剧下降，且每更换一个目标模型就必须重新完成整个预训练过程74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/990696

API

curl https://kongchang.com/api/v1/knowledge/claims/990696

MCP

get_claim(id=990696)