无检索器检索：DecisionRAG用决策模型导航文档

检索增强生成（RAG）系统的瓶颈往往不在生成端，而在检索端。固定嵌入空间中的相似度匹配或词汇匹配，决定了哪些文档能被送入语言模型。一旦检索器漏掉关键段落，即便最强的生成模型也难以补救。这种“能力不对称”催生了一个新思路：能否让语言模型本身成为检索器？

传统检索的瓶颈：固定嵌入空间的不对称性

当前主流检索方案依赖两种路径：词汇匹配（如BM25）或稠密向量相似度。两者都在一个预先定义的表示空间中工作，检索质量的上限由该空间决定。问题在于，这个空间与生成模型的理解能力并不对齐——生成模型可以读出段落间的微妙语义关系，但检索器只做一次性的向量比对。

据原文分析，这种不对称的本质是：检索器在“盲选”，而生成器在“精读”。检索器无法利用语言模型对上下文、意图和文档结构的深层理解，只能依赖表面相似度。这解释了为什么在复杂问答场景中，检索召回率常常成为整个系统的天花板。

BM25 是一种基于词频的经典检索算法，它通过统计查询词在文档中的出现频率（TF）和逆文档频率（IDF），并结合文档长度归一化来打分。其核心假设是：查询词出现越多的文档越相关。BM25 不依赖语义理解，因此对词汇变体、同义词和上下文敏感度低，但计算高效、可解释性强，长期作为检索基线。稠密向量相似度 则通过神经网络将查询和文档映射到低维稠密空间，用余弦相似度或点积衡量相关性；其质量高度依赖嵌入模型的训练数据和目标，且检索与生成模型通常独立训练，导致表示空间错位。两者均属“单次比对”范式，无法像生成模型那样进行多步推理。

DecisionRAG的核心机制：单次前向传播中联合评估候选分支

DecisionRAG提出了一种“无检索器”的检索范式。它不依赖第一阶段检索器，也不生成任何token，而是用决策模型在单次前向传播中联合评估多个候选分支。关键洞察在于：当多个候选被放在共享上下文中一起判断时，它们的相关性估计变得可比较。

这类似于人在图书馆中找书的过程：先看大类，再缩小到书架，最后翻到具体段落。DecisionRAG沿着语料库的固有结构导航——从宽泛主题逐层下降到单个段落，在每一层决定哪些分支值得继续探索。这种层级式导航让模型能够利用预训练语言模型已有的语义理解能力，而不需要针对特定任务做训练。

为何共享上下文能提升相关性判断

单独评估每个候选时，模型缺少参照系，相关性打分容易漂移。将候选分支置于同一上下文联合判断，模型可以在比较中校准尺度，使不同分支的得分具有相对可比性。这是DecisionRAG区别于传统逐点打分（pointwise）重排的关键设计。

逐点打分（pointwise）重排 是信息检索中的常见范式：对每个候选文档独立计算相关性分数，再按分数排序。其缺点是缺少候选间的相对比较，模型难以校准绝对分数的尺度，容易受文档长度、领域偏移等因素影响。与之相对的成对（pairwise） 或列表（listwise） 重排则将多个候选同时输入模型，让模型在比较中判断相对相关性。DecisionRAG 的共享上下文联合评估本质上是一种列表式判断，它利用语言模型的自注意力机制，使候选分支在同一个上下文窗口中相互参照，从而获得更稳定、可比较的相关性估计。

实测表现：无训练、无第一阶段检索器的竞争力

据原文数据，在没有任务特定训练、也没有第一阶段检索器的情况下，DecisionRAG在MultiDoc2Dial上比使用8B重排器的稠密检索高出13.8个R@1点，在Natural Questions上高出17.4个Hit@1点。测试覆盖四个基准，其中包括一个包含268万条维基百科段落的语料库。

效率方面同样值得关注：每个查询的检索耗时仅0.7至1.8秒。考虑到它跳过了传统两阶段流程中的第一阶段召回，这个延迟水平对于实际部署具有参考价值。

R@1（Recall at 1）和 Hit@1 是检索评估中常用的指标：前者指排名第一的结果中包含正确答案的比例，后者指排名第一的结果命中相关文档的比例。两者都关注 top-1 位置的准确性，数值越高说明检索器将最相关结果排在首位的能⼒越强。在多文档问答场景中，R@1 和 Hit@1 直接反映系统能否将关键段落送入生成器，因此常被用作端到端 RAG 系统召回能⼒的代理指标。DecisionRAG 在这些指标上的提升，意味着它减少了对独立嵌入索引和重排器的依赖。

对RAG架构的启示

DecisionRAG的意义不止于一个检索新方法，它指向一种架构层面的反思：检索与生成是否必须分离？当语言模型足够强大时，把检索决策也交给模型本身，可能比维护一套独立的嵌入索引更灵活。

当然，这条路仍有待验证的问题——大规模语料下的扩展性、与现有索引体系的兼容成本、以及决策模型在领域漂移下的鲁棒性，都还需要更多独立复现。但“让检索器也拥有语言模型的理解力”这一方向，已经给出了有说服力的初步答案。