Cohere发布Rerank 5：Context Focus新功能大幅降低Token成本

Cohere推出Rerank 5，性能全面超越前代

Cohere 团队今日正式发布 Rerank 5，这是其重排序模型的最新版本。据 Cohere 的 El 在 Reddit 上介绍，Rerank 5 延续了 Pro 和 Fast 两个版本的产品线，但在性能上“远远超越”了 Rerank 4 以及他们测试过的所有其他模型。

在基准测试方面，Pro 版本在 nanoMTEB 和 ViDoRe V3 上均排名第一；Fast 版本则击败了 Qwen3-Reranker-0.6B 和 Qwen3-Reranker-8B 等速度型模型——后者参数量大得多。两个版本在多语言、金融文档和医疗文档等场景下也处于领先地位。对于需要处理海量文档检索的企业来说，这意味着在相同成本下可以获得更精准的排序结果。

重排序模型（Reranker）是检索增强生成（RAG）流程中的关键一环。典型 RAG 系统先用向量检索或关键词检索召回一批候选文档，再交由重排序模型对候选文档与查询的相关性进行精细打分并重新排序，从而让最相关的片段排在最前。相比双塔式的向量检索模型，重排序模型通常采用交叉编码器结构，将查询和文档一起输入模型做联合编码，因此精度更高但计算开销也更大，所以一般只用于对少量候选做二次排序。Rerank 4 是 Cohere 上一代产品，Pro 版侧重精度、Fast 版侧重吞吐与延迟，这一双版本策略在 Rerank 5 中得到延续。

nanoMTEB 是 MTEB（Massive Text Embedding Benchmark）的一个精简子集，用于以较低成本评估检索与重排序模型的文本匹配能力；ViDoRe 则是面向视觉文档检索的基准，考察模型在含图表、版式的文档页面上做相关性判断的表现，V3 为其较新版本。这两个基准分别覆盖纯文本与富文档场景，因此常被用于说明重排序模型的综合能力。

Context Focus：只取相关段落，显著降低Token开销

比模型升级更值得关注的是 Rerank 5 引入的全新功能 Context Focus。Cohere 声称这是重排序模型中“从未见过”的特性。

企业文档越来越长，传给 LLM 的上下文也越来越多，token 成本随之飙升。Context Focus 的做法是：只提取文档中与查询真正相关的具体段落，从而大幅减少 token 消耗。该功能为可选开启，并且像旋钮一样可调节——你可以精确控制想要保留多少上下文。

这一设计思路很实用：不是简单截断或摘要，而是在重排序阶段就介入，把“相关性判断”和“上下文压缩”合并处理。对于 RAG 应用开发者而言，这可能是比模型精度提升更直接的降本手段。

在 RAG 中，重排序之后通常会把排名靠前的文档片段拼接进提示词交给大模型，这些文本会按 token 计费并占用模型的上下文窗口。文档越长、召回条数越多，token 开销越大，同时还可能引入无关内容干扰模型判断，即所谓的“上下文噪声”问题。常见的压缩手段包括截断、抽取式摘要或句子级过滤，但它们往往在重排序之后单独进行，需要额外的处理步骤。Context Focus 把相关性打分与段落级抽取合并到重排序阶段完成，输出的是文档中命中的具体段落而非整篇文档。其“可调节”特性意味着用户可以设定保留上下文的多少，在召回完整性与成本之间做权衡，这对长文档密集的企业知识库场景尤为实用。

LangChain集成与获取方式

Rerank 5 已通过 LangChain 提供，开发者可以直接在现有 LangChain 流程中调用。此外，Cohere 的 API 和其他多个平台也已同步上线。

El 在帖子中邀请用户反馈使用体验，并引导大家阅读官方博客获取完整基准数据。对于正在构建检索增强生成（RAG）系统的团队，Rerank 5 提供了一个值得评估的新选项——尤其是 Context Focus 功能，可能改变上下文管理的成本结构。

LangChain 是构建大模型应用的主流开源框架，提供文档加载、文本切分、向量存储、检索器与链式编排等组件。将重排序模型封装为 LangChain 的集成组件后，开发者可以在检索器管道中以少量代码接入，例如把它作为检索结果的后处理排序步骤，而无需自行处理 API 调用、批处理与返回格式。对于已经基于 LangChain 搭建 RAG 流程的团队，这种集成方式降低了替换或新增重排序模型的迁移成本，也便于与其他检索组件组合做对比实验。

多源视角下的定位

目前关于 Rerank 5 的信息主要来自 Cohere 官方发布。第三方独立评测尚未出现，因此基准测试的领先幅度需要后续验证。不过，从产品设计方向看，Cohere 在重排序模型上同时押注“精度”和“上下文效率”，反映出企业 RAG 场景的真实痛点：不是模型不够聪明，而是长文档带来的成本不可忽视。

如果你已经在使用 Rerank 4，升级路径应该比较平滑；如果尚未使用重排序模型，Context Focus 的可调节特性或许能成为尝试的起点。