概念data wall
数据墙
预训练领域概念,指可用于训练大模型的高质量人类文本接近枯竭,导致传统扩大爬取规模的路径边际收益快速衰减,促使前沿实验室转向数据策管与合成数据。
核心事实
时间轴 (近 90 天)
10月21日
数据墙是指高质量公开文本的存量正接近枯竭,而现有主流大模型的训练已经消耗了互联网上大部分可获取的优质语料。
待验证50%
10月16日
微软在预训练报告中强调数据策管和合成数据在突破数据墙中的作用。
待验证50%
9月1日
Epoch AI等研究机构估算大模型可能在未来几年内面临"数据墙"问题,即高质量数据被充分利用
待验证50%
8月30日
据Epoch AI研究估计,到2026年前后互联网上可用于训练的高质量文本数据将基本被耗尽
已验证65%
8月29日
AI研究界将随着模型规模扩大、互联网高质量公开文本数据有限的困境称为「数据墙」(Data Wall)
待验证50%