待验证50% 置信基准精确时间

部分模型在超过32K token后大海捞针准确率出现明显下滑，另一些则在更长范围内保持稳定

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/8

首次发现

有效期至：2027/1/6

来源

暴力塞满上下文 vs RAG：向量数据库是智能体记忆的死胡同吗？

涉及实体

大海捞针concept

相关事实

待验证如果模型预训练语料中极少出现超过 32K token 的样本，即便通过位置编码扩展窗口，模型在该区间的表现也往往不稳定74% 相似待验证即便是支持128K上下文的模型，在文档长度超过32K时，中段信息的检索准确率往往出现明显下滑70% 相似待验证小模型长上下文理解质量随长度下降快，通常超过4K-8K token窗口后表现退化69% 相似待验证周期性刷新模型在短预算下准确率和答案完成度更高，但输出限制放宽到32K时冻结响应模型平均准确率反超68% 相似待验证Qwen3 27B 的 1-bit 量化导致模型能力断崖式下跌，部分任务输出丧失基本连贯性和准确性67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/988422

API

curl https://kongchang.com/api/v1/knowledge/claims/988422

MCP

get_claim(id=988422)