[控场AI]
概念masked filler

屏蔽填充物

长上下文评测中的一种常见协议:为控制长度变量,研究者把无关填充文本替换为特殊占位符或直接屏蔽,使模型看不到这些内容。新研究指出该操作本身会引入额外干扰。

时间轴 (近 90 天)

11月4日

在MMLU基准上,屏蔽填充物方案能复现长度带来的11到18个百分点的性能下降(30K token时)。

待验证50%
11月4日

在检索任务中,当填充物被屏蔽时,32K token下准确率损失高达45个百分点;而同样的填充物保持可见时,损失为零。

待验证50%
11月4日

屏蔽填充物协议存在缺陷:屏蔽操作本身会改变输入分布,引入额外干扰,而非长度在起作用。

待验证50%

全部知识事实 (3)

来源文章