待验证50% 置信事实精确时间

绝大多数模型的预训练语料以数千至数万token的短中等长度文本为主，超过10万token的训练样本极为稀缺

1

来源数

50%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

上下文越长指令越失效？LLM指令衰减机制与应对策略

相关事实

待验证Mid-training（持续预训练）是介于预训练和微调之间的训练阶段，数据量通常达到数千亿到数万亿token65% 相似待验证当前主流大模型的训练数据量已达到十几T甚至六十T token65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/530706

API

curl https://kongchang.com/api/v1/knowledge/claims/530706

MCP

get_claim(id=530706)