BM25
BM25(Best Match 25)是信息检索领域广泛使用的经典排名算法,属于概率检索模型。它基于词频(TF)、逆文档频率(IDF)及文档长度归一化等因素计算查询词与文档的相关性得分,用于对搜索结果进行排序。BM25以稳健的关键词匹配能力著称,常作为文本检索系统的基线算法,并可与语义检索方法结合使用。
Core Facts
Timeline (last 90 days)
排序检索通常依赖BM25、双塔模型或交叉编码器等机制将最相关文档排在前列
20个chunk之后的收敛表明嵌入方案在更大规模检索中仍有优势
在上下文规模不大的场景中,BM25词频检索在延迟和成本上优于语义嵌入方案
在LongMemEval基准测试中,20个chunk时BM25与嵌入方案收敛于约95%准确率
在LongMemEval基准测试中,5个chunk时BM25准确率从78.8%提升到85.2%
Modular RAG的检索器可以在稠密向量检索、稀疏关键词检索(BM25)或混合检索之间灵活切换,无需重构整个流水线
当嵌入服务不可用时,session-indexer 会自动回退到 FTS5 的 BM25 全文检索
raggy采用混合数据库设计,同时使用向量检索与BM25关键词检索两种检索机制
AI Tutor的混合检索工具在超过800万token的语料库上结合语义搜索与BM25,取top 30片段重排到top 5返回
纯语义搜索(dense RAG)在400K token时对埋藏在中间的事实召回率跌至0%,而BM25始终保持100%
26 more timeline events
All Facts (20)
混合检索(Hybrid Search)将向量检索与BM25关键词检索的结果通过RRF(倒数排名融合)等算法合并,兼顾语义理解与精确匹配
90%Verified混合检索(将稠密向量检索与BM25稀疏检索结合)比单一方法在大多数基准上表现更好
75%VerifiedBM25是一种基于词频统计(TF-IDF改进版)的经典信息检索算法,属于稀疏检索方法
75%VerifiedFTS5是SQLite的第五代全文搜索扩展模块,支持基于BM25算法的相关性排序、前缀查询、短语匹配等功能
70%VerifiedBM25仍是Elasticsearch、Lucene等主流搜索引擎的默认排序算法
70%Verified混合检索(Hybrid Search)结合稠密向量语义相似性与BM25稀疏关键词匹配,两路结果经Re-Ranker模型重排后注入LLM上下文
65%Verified重排序(Re-ranking)机制在初步检索后引入交叉编码器(Cross-Encoder)对候选文档重新打分,提升输入大模型的上下文质量
65%VerifiedRAG的关键组件包括Embedding模型(如OpenAI的text-embedding-3系列或开源的BGE模型)、向量数据库(Pinecone、Weaviate、Chroma、pgvector等)和检索策略
65%UnverifiedTraditional search systems mostly rely on statistical algorithms like TF-IDF or BM25 that rank results by term frequency and uniqueness in documents
90%Unverified实际生产中通常会结合向量相似度和关键词匹配两种方式进行混合检索
85%Unverified混合检索(Hybrid Search)融合稠密检索(Dense Retrieval)与稀疏检索(BM25)
60%Unverified排序检索通常依赖BM25、双塔模型或交叉编码器等机制将最相关文档排在前列
50%Unverified在LongMemEval基准测试中,20个chunk时BM25与嵌入方案收敛于约95%准确率
50%Unverified20个chunk之后的收敛表明嵌入方案在更大规模检索中仍有优势
50%Unverified在上下文规模不大的场景中,BM25词频检索在延迟和成本上优于语义嵌入方案
50%Unverified在LongMemEval基准测试中,5个chunk时BM25准确率从78.8%提升到85.2%
50%UnverifiedModular RAG的检索器可以在稠密向量检索、稀疏关键词检索(BM25)或混合检索之间灵活切换,无需重构整个流水线
50%Unverified当嵌入服务不可用时,session-indexer 会自动回退到 FTS5 的 BM25 全文检索
50%Unverifiedraggy采用混合数据库设计,同时使用向量检索与BM25关键词检索两种检索机制
50%Unverified纯语义搜索(dense RAG)在400K token时对埋藏在中间的事实召回率跌至0%,而BM25始终保持100%
50%