ms-marco-MiniLM-L-6-v2
基于MiniLM的轻量级交叉编码器重排模型,在MS MARCO数据集上训练,用于检索结果的相关性重排序
时间轴 (近 90 天)
混合检索的四阶段流程为:第一阶段并行稠密检索和稀疏检索;第二阶段用RRF融合,k_constant默认60,稠密权重0.7,稀疏权重0.3;第三阶段用Cross-Encoder重排序(推荐ms-marco-MiniLM-L-6-v2);第四阶段截取Top-K,默认k=5,fetch_k=20。
Cross-Encoder与Bi-Encoder有本质区别:Bi-Encoder独立编码查询和文档,速度快但精度有限,适合第一阶段召回;Cross-Encoder将[query, document]拼接输入Transformer,精度更高但无法预计算,适合对Top-20到Top-100的小候选集重排序。ms-marco-MiniLM-L-6-v2是6层结构,单次推理约几十毫秒,是生产环境中性价比高的重排序选择。
全部知识事实 (2)
混合检索的四阶段流程为:第一阶段并行稠密检索和稀疏检索;第二阶段用RRF融合,k_constant默认60,稠密权重0.7,稀疏权重0.3;第三阶段用Cross-Encoder重排序(推荐ms-marco-MiniLM-L-6-v2);第四阶段截取Top-K,默认k=5,fetch_k=20。
50%待验证Cross-Encoder与Bi-Encoder有本质区别:Bi-Encoder独立编码查询和文档,速度快但精度有限,适合第一阶段召回;Cross-Encoder将[query, document]拼接输入Transformer,精度更高但无法预计算,适合对Top-20到Top-100的小候选集重排序。ms-marco-MiniLM-L-6-v2是6层结构,单次推理约几十毫秒,是生产环境中性价比高的重排序选择。
50%