待验证50% 置信事实精确时间
256K token 的提示长度上限来自一项“大海捞针”式测试:在最多 250K token 中随机深度隐藏一句话,各测试长度下 20 次全部正确,这是窄条件下的结果,不能理解为长上下文检索永远可靠。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证ruleherd 的 BLOAT 检测规则是:单个指令文件超过约 4k tokens 即视为臃肿,因为每次都会加载进提示词浪费上下文窗口。69% 相似待验证直接读取logits层的概率值绕过文本生成冗余步骤,是实现25毫秒低延迟的关键66% 相似待验证在LongMemEval多跳任务上,增加检索chunk数量能提升召回,但到20个chunk时进入平台期,说明瓶颈不在检索宽度而在词汇匹配的固有局限。65% 相似待验证如果模型预训练语料中极少出现超过 32K token 的样本,即便通过位置编码扩展窗口,模型在该区间的表现也往往不稳定65% 相似待验证在本地单卡推理场景下瓶颈通常是显存带宽,一次验证可以同时确认多个草稿 token 时,每个 token 的平均显存读取次数大幅降低,这是加速的物理来源65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1050840API
curl https://kongchang.com/api/v1/knowledge/claims/1050840MCP
get_claim(id=1050840)