LEANN开源向量索引：60M块RAG索引从201GB压缩至6GB

引言

检索增强生成（RAG）已成为大模型落地的重要范式，但向量索引的存储开销常被低估。UC Berkeley 团队推出的开源项目 LEANN，通过“剪枝图 + 查询时重算”的思路，把 6000 万块（60M-chunk）的 RAG 索引从 201 GB 压缩到 6 GB，引发社区关注。

核心机制：存图不存向量

传统向量索引（如 HNSW）需要为每个数据块持久化完整的高维嵌入向量，再附加图结构。LEANN 的做法是只存储剪枝后的近邻图，查询时再依据图上的候选节点实时重算嵌入。

换句话说，LEANN 把“存储密集”转化为“计算密集”——牺牲部分查询延迟，换取数量级更低的存储占用。据 MarkTechPost 报道，该索引在 90% 召回率下达到与 HNSW 相当的精度，而内存占用为 4 GB 对 188 GB。

HNSW（Hierarchical Navigable Small World）是当前主流的近似最近邻搜索索引结构之一。它通过构建多层可导航的小世界图，在查询时从上层粗粒度图逐层向下搜索，实现对数级别的检索复杂度。HNSW 的优势在于高召回率与低延迟，但其代价是每个向量节点都需要持久化完整的高维嵌入（例如 768 维或 1536 维的 float 数组），并且图结构本身也需存储邻接关系。对于数千万级别的块，嵌入向量往往占据索引总体积的绝大部分，这正是 LEANN 试图绕开的存储瓶颈。

性能权衡：秒级搜索换空间

这一设计的代价是查询时间上升到秒级。对于离线批处理、低频检索或存储成本敏感的场景，这是可接受的交换；但对于高并发、低延迟的在线服务，秒级延迟仍是一道门槛。

有意思的是，重算嵌入意味着查询时需要访问原始文本或嵌入模型，这会引入额外的 I/O 与算力开销。团队在论文中显然针对这一路径做了优化，但具体工程细节仍需结合论文与代码评估。

召回率（Recall）是衡量近似最近邻搜索质量的核心指标，通常定义为：在返回的 Top-K 结果中，真正属于真实最近邻集合的比例。90% 召回率意味着每 10 次查询中约有 1 次会遗漏部分真实最近邻。对于 RAG 场景，召回率直接影响检索到的上下文是否包含回答问题所需的信息，因此 90% 通常被视为可接受的基线。LEANN 在 90% 召回率下与 HNSW 精度相当，说明其剪枝图加查询时重算的策略在质量上没有明显牺牲，但这一指标需在不同数据集上独立验证。

数据集规模与存储账本

原文给出的两个数据点值得对照：60M 块索引从 201 GB 缩减至 6 GB；在 90% 召回率下，内存占用从 188 GB 降至 4 GB。前者对应磁盘索引体积，后者对应查询时的内存驻留，二者口径不同但都指向同一结论——LEANN 在存储维度实现了数量级的压缩。

对 RAG 系统而言，索引体积直接决定部署成本与扩容弹性。当索引从数百 GB 降到个位数 GB，单机部署更大规模知识库成为可能，冷启动与备份迁移的负担也显著下降。

磁盘索引体积与查询时内存驻留是两个不同的度量口径。磁盘索引体积指索引文件在持久化存储上占用的空间，决定部署成本、备份迁移负担和冷启动加载时间；内存驻留则指查询过程中需要加载到 RAM 中的数据结构大小，直接影响单机可承载的并发查询数和硬件选型。LEANN 将磁盘索引从 201 GB 压缩到 6 GB，同时将查询内存从 188 GB 降至 4 GB，意味着它不仅在存储维度实现了压缩，也在查询时的内存占用上取得了数量级下降，这对资源受限环境尤为关键。

适用场景与局限

LEANN 更适合以下场景：知识库规模大但查询频率不高、对延迟不敏感的内部检索、资源受限的边缘或单机部署、以及需要频繁重建索引的实验环境。

局限同样明显：秒级检索不适合交互式问答的严苛延迟要求；重算嵌入依赖原始数据可得性；剪枝图在召回率上的表现需要针对不同数据分布验证。是否采用，取决于业务对延迟与成本的具体权衡。

行业意义

LEANN 的价值不在于“全面替代 HNSW”，而在于提示了一条被忽视的优化路径：向量索引不必把嵌入当作不可变资产存储，计算与存储的边界可以重新划分。随着嵌入模型推理成本持续下降，“查询时重算”的性价比会进一步提升，这类设计有望在 RAG 基础设施中占据一席之地。

对开发者而言，LEANN 是开源项目，可直接评估其代码与论文，在自己的数据集上验证召回率与延迟表现，而非仅凭宣传数据决策。

嵌入模型推理成本是“查询时重算”路线经济性的关键变量。近年来，嵌入模型（如基于 Transformer 的双塔编码器）的推理效率持续提升，单位 token 的编码成本不断下降，使得在查询阶段实时计算候选块的嵌入变得可行。然而，重算嵌入仍需访问原始文本或预计算的特征，这会引入额外的 I/O 开销；若原始文本存储在远端对象存储中，网络延迟可能成为新的瓶颈。因此，LEANN 类设计的实际性价比取决于嵌入模型推理速度、原始数据访问延迟与存储成本三者的综合权衡，而非单一因素。