ZeroRAG：无中心化语义对等路由，重构RAG检索架构

RAG（检索增强生成）已成为提升大语言模型输出可靠性的标配手段：先检索与查询相关的文档，再将其放入提示词中。但现有系统几乎都依赖中心化的文档存储与索引，而现实中大量文档由组织、设备和个人持有，因隐私、版权或监管合规等原因无法或不愿交给中心方托管。这篇论文提出的 ZeroRAG，正试图在不引入协调机构的前提下解决这一矛盾。

中心化RAG的结构性困境

RAG 的价值在于用外部知识约束模型输出，但"外部知识放在哪里"这个前提很少有人质疑。今天的 RAG 系统习惯性地把文档收集、索引并集中服务，这等于要求文档所有者放弃对数据的实际控制权。

对于个人隐私数据、企业内部文档或受版权保护的语料，这种让渡往往不可接受。已有的去中心化检索方案也没能真正绕开这个坑：一类方案重新引入了协调权威，本质仍是中心化；另一类依赖 DHT 等全局数据结构，需要网络范围内持续协调，运维成本和一致性负担都很重。ZeroRAG 的切入点很明确——文档留在所有者手中，检索层本身实现去中心化。

DHT（分布式哈希表） 是一种典型的去中心化全局数据结构：每个节点按哈希规则负责维护一小部分键值对，查询时通过多跳路由定位到负责节点。它被广泛用于 BitTorrent、IPFS 等 P2P 系统。但 DHT 要求全网络对键空间划分达成持续一致，节点加入、离开或故障都会触发路由表更新与数据迁移，因此需要网络范围内的协调。对于 RAG 这类查询模式多变、文档语义高度动态的场景，维护一个全局 DHT 的成本和一致性负担往往超过收益，这正是文中指出去中心化检索方案绕不开的坑之一。

ZeroRAG 如何工作：轻量状态加语义路由

ZeroRAG 是一个面向 RAG 文档检索的去中心化路由层，在对等节点构成的覆盖网络上完成语义查询路由，不需要全局数据结构，也不需要中心化编排。

每个节点只维护两类轻量本地状态：一是有界的邻居广告集合，二是近期已路由查询的缓存。查询到达时，ZeroRAG 采用最佳优先游走（best-first walk）逐步转发，并在过程中持续重连覆盖网络，使邻居关系向语义相关的方向演化。这意味着网络会自我组织，召回率随时间和查询积累而提升，而不是依赖一份预先构建好的全局索引。

这套设计的巧妙之处在于把"索引"从静态资产变成了动态过程：节点之间的连接本身就承载了语义信息，查询的每一次游走都在微调网络拓扑。对拥有文档的节点而言，它无需公开文档内容，只需参与路由即可，数据主权与可检索性得以并存。

覆盖网络（overlay network） 是在底层物理网络之上、由节点间逻辑连接构成的虚拟网络。节点不必知道彼此的真实网络位置，只需维护一组逻辑邻居，消息沿这些逻辑边转发。ZeroRAG 的语义路由就运行在这样一个覆盖网络上：邻居关系不是随机或按拓扑距离建立，而是根据节点所持文档的语义相似度演化，于是逻辑边本身编码了语义邻近性。覆盖网络的好处是，路由策略可以完全独立于底层网络细节进行设计，便于实现最佳优先游走和动态重连。

最佳优先游走（best-first walk） 借鉴了启发式搜索的思想：每一步从当前节点的邻居中挑选“看起来最接近查询目标”的一个转发，而不是穷举所有邻居或随机游走。判断“接近”的依据通常是节点广告中携带的语义摘要或向量表示。与广度优先洪泛相比，最佳优先游走的消息开销小得多；与随机游走相比，它又具备方向性，能更快收敛到相关文档所在区域。代价是可能陷入局部最优，因此 ZeroRAG 通过持续重连覆盖网络来缓解这一问题——网络拓扑本身会随查询历史向语义相关方向调整。

实验表现：召回、开销与自愈能力

论文使用三个真实工作负载和两个去中心化基线进行评估，主要结论集中在四个方面。

召回率与网络消息开销上，ZeroRAG 均优于两个基线。更关键的是，它接近中心化文档存储的召回率和 LLM 回答准确率——这说明去中心化带来的性能损失被控制在了可接受范围内。

鲁棒性方面，ZeroRAG 在遭遇灾难性节点故障后能够自愈。由于没有全局索引这种单点依赖，部分节点失效不会导致检索体系整体崩塌，网络可以重新组织。

扩展性方面，实验规模达到 100000 个节点，验证了该方案在大规模对等网络中的可行性。对于去中心化系统而言，节点规模上升通常伴随路由效率下降和状态膨胀，ZeroRAG 的有界本地状态设计正是针对这一痛点。

对RAG架构演进的启示

ZeroRAG 的意义不止于一个检索优化技巧。它提示了一种不同的 RAG 部署范式：数据不必搬家，检索能力可以通过网络协议分发。

这对受监管行业尤其有吸引力。医疗、金融、法律等领域的文档往往因合规要求无法集中，但又确实需要 LLM 辅助检索与问答。若检索层能在不转移文档保管权的前提下工作，RAG 的适用范围会明显扩大。

当然，工程落地仍有距离。语义路由的效果依赖网络规模与查询分布的匹配程度，冷启动阶段邻居广告的质量直接影响早期召回；节点故障自愈的代价、恶意节点干扰路由的可能性，也需要进一步评估。论文的实验覆盖了三个真实工作负载，但真实生产环境中的异构性与对抗条件会更复杂。

从更宏观的视角看，ZeroRAG 代表了 RAG 基础设施的一次思路转向：与其把知识集中起来再检索，不如让检索跟着知识走。当数据主权成为越来越硬的约束，这种"检索层去中心化、数据层就地留存"的架构，可能会成为中心化向量库之外的一条重要补充路径。

冷启动（cold start） 在去中心化检索中指的是网络刚建立、节点尚未积累足够邻居广告和查询缓存时的阶段。此时邻居关系近似随机，语义路由缺乏可靠的方向信号，早期召回率往往显著低于稳态。ZeroRAG 的召回率提升依赖查询积累驱动的网络自组织，因此冷启动质量直接决定系统能否进入良性循环。实践中通常需要引入引导机制，例如利用文档的初始语义摘要建立种子邻居，或在早期混合使用随机游走以保证探索覆盖面。