[控场AI]
基准Needle-in-a-Haystack / NIAH / 大海捞针测试

大海捞针

评估长上下文模型信息检索能力的经典基准,通过在长文本中插入关键信息并提问来检验模型能否准确定位和利用该信息,可绘制准确率随位置变化的曲线

时间轴 (近 90 天)

10月20日

「大海捞针」测试仅能说明模型注意力机制覆盖长距离位置,不能证明其具备对长上下文的结构化理解与操作能力。

待验证50%
10月16日

「上下文腐烂」(context rot)指许多模型虽标称1M窗口,但在序列中段或极长输入下召回率明显下降的现象。

待验证50%
10月15日

标称支持1M上下文并不等于在1M长度下仍能保持同等推理质量,业界常用'大海捞针'测试来检验模型在超长上下文中的信息检索与推理能力。

待验证50%
10月12日

在128K Token上下文、约1.6万个键值对的大海捞针实验中,仅改变一个键值对的位置,DeepSeek-V4-Flash-Base准确率最大差距达40.2%,DeepSeek-V4-Pro-Base为34.8%,经后训练优化后仍分别为19.1%和14.8%。

待验证50%
10月8日

部分模型在超过32K token后大海捞针准确率出现明显下滑,另一些则在更长范围内保持稳定

待验证50%
9月11日

大海捞针(Needle in a Haystack)测试方法由Greg Kamradt于2023年首次提出

待验证50%

全部知识事实 (6)

来源文章