待验证50% 置信权衡取舍精确时间
稀疏注意力对需要跨越长距离依赖的任务可能遗漏关键信息，因此实践中常与检索增强（RAG）结合使用
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证许多长上下文评测任务在滑动窗口注意力（SWA）下就能通过，因此在这些任务上的优异表现不能证明压缩方法在真正需要长距离依赖的场景下有效76% 相似待验证缓解幻觉的主流方案RAG、思维链提示和模型微调各有局限：RAG引入检索质量依赖，Fine-tuning无法覆盖长尾场景，思维链提示大幅增加推理成本71% 相似待验证检索增强生成(RAG)、长上下文建模优化以及针对学术场景的专项微调可能成为突破当前证据提取性能瓶颈的关键方向69% 相似待验证更大的上下文窗口降低了对检索增强生成（RAG）的依赖，但会提高单次调用的计算成本与延迟68% 相似待验证随着任务链条延长，上下文窗口的容量限制与注意力衰减会影响模型对初始目标的把握精度，这是长时任务中'目标漂移'现象的根本成因之一67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/995674API
curl https://kongchang.com/api/v1/knowledge/claims/995674MCP
get_claim(id=995674)