LEANN

UC Berkeley 团队推出了开源项目 LEANN，通过“剪枝图 + 查询时重算”的思路压缩向量索引。

LEANN 将 6000 万块（60M-chunk）的 RAG 索引从 201 GB 压缩到 6 GB。

据 MarkTechPost 报道，LEANN 在 90% 召回率下达到与 HNSW 相当的精度，而内存占用为 4 GB 对 188 GB。

LEANN 的查询时间上升到秒级，因此不适合高并发、低延迟的在线服务。

LEANN 在存储维度实现了数量级的压缩，使得单机部署更大规模知识库成为可能，冷启动与备份迁移的负担也显著下降。

重算嵌入意味着查询时需要访问原始文本或嵌入模型，这会引入额外的 I/O 与算力开销。

LEANN 更适合知识库规模大但查询频率不高、对延迟不敏感的内部检索、资源受限的边缘或单机部署、以及需要频繁重建索引的实验环境。

LEANN 的局限包括：秒级检索不适合交互式问答的严苛延迟要求；重算嵌入依赖原始数据可得性；剪枝图在召回率上的表现需要针对不同数据分布验证。

随着嵌入模型推理成本持续下降，“查询时重算”的性价比会进一步提升，这类设计有望在 RAG 基础设施中占据一席之地。

LEANN 是开源项目，开发者可直接评估其代码与论文，在自己的数据集上验证召回率与延迟表现。