Hillock v1.0：用确定性搜索破解向量检索的幻觉难题

向量搜索是当前RAG（检索增强生成）系统的主流方案，但它有一个被广泛忽视的缺陷：概率性检索会在「无法回答的查询」上产生幻觉。经过6个月测试，开源项目Hillock v1.0正式发布，试图从检索层解决这一问题。

向量搜索的幻觉根源

向量搜索的核心逻辑是「最近邻」：把查询和文档都编码为向量，然后找距离最近的文档片段。问题在于，这个机制永远会返回结果——哪怕知识库里根本没有相关内容。

据Reddit原帖作者观察，当用户提出知识库无法回答的问题时，向量检索仍然会返回语义上「看起来相关」的片段，大模型拿到这些片段后，往往会强行编造答案。这不是模型本身的问题，而是检索层把「不相关」伪装成了「相关」。

换句话说，向量搜索缺乏一个明确的「拒绝回答」信号。它的概率性本质决定了相似度分数只能反映语义接近程度，无法判断内容是否真正支撑答案。

最近邻搜索（Nearest Neighbor Search） 是向量检索的基础操作：给定一个查询向量，在向量库中找出距离（常用余弦相似度或欧氏距离）最小的 k 个向量。它的数学性质决定了只要库非空，就一定存在「最近」的邻居，系统没有内建的「无结果」分支。实际系统中通常还会设置相似度阈值来过滤低质量结果，但阈值是全局固定的，难以适配不同查询的语义需求——阈值过高会漏掉真正相关的长尾内容，过低则放行大量弱相关片段，这正是「伪相关」被送入生成端的直接通道。

Hillock v1.0 的解决思路

Hillock 的定位不是替代向量数据库，而是在检索层引入确定性判断。根据作者描述，v1.0 经历了6个月的测试迭代，核心目标是让系统在面对不可回答的查询时，能够明确识别并拒绝，而不是返回似是而非的片段。

这一思路与业界近期的讨论方向一致：RAG 系统的可靠性瓶颈往往不在生成端，而在检索端。如果检索结果本身不可靠，再强的模型也只能「基于错误信息正确推理」。

确定性检索 vs 概率性检索

传统向量检索的输出是一个排序列表，每个结果带相似度分数。Hillock 试图在相似度之外增加一层判断：这些结果是否真的构成了对查询的有效支撑。

这种「确定性」并非指完全消除概率，而是让「无法回答」成为一个合法输出。对于企业知识库、客服机器人等场景，明确说「不知道」远比编造答案更有价值。

RAG（Retrieval-Augmented Generation，检索增强生成） 的典型流程是：将用户查询编码为向量，从知识库中检索 Top-K 文档片段，拼接进提示词后交由大模型生成答案。该架构把「知识」外置到检索层，因此检索结果的质量直接决定生成内容的可信度。业界常说的「垃圾进、垃圾出」在 RAG 中体现得尤为明显：生成模型无法区分片段是真正支撑答案，还是仅语义相近，它倾向于把上下文当作事实依据来使用。这也是为什么检索层的「拒绝能力」被视为 RAG 可靠性的关键一环。

相似度分数（如余弦相似度，取值通常在 -1 到 1 之间）衡量的是查询向量与文档向量在嵌入空间中的方向接近程度，它反映语义相关性，却不等于「该片段能回答问题」。两个文本可能谈论同一主题却给出不同事实，相似度依然很高。因此单靠分数排序无法区分「相关」与「可支撑」，这也是 Hillock 主张在相似度之外增加一层判断的原因：把「是否构成有效支撑」作为一个可判定的独立问题，而不是寄望于分数阈值。

对RAG开发者的启示

Hillock v1.0 的发布提醒我们重新审视检索层的设计假设。多数RAG教程默认「检索必返回Top-K」，但真实业务中，大量查询本就超出知识库范围。

开发者在评估检索方案时，可以把「不可回答查询的处理能力」作为独立指标来测试，而不是只看召回率。一个在标准问答集上表现优秀的系统，未必能在边界查询上保持诚实。

Hillock 目前以开源形式发布，具体实现细节和基准数据建议直接查阅项目仓库。对于正在构建生产级RAG系统的团队，这类针对检索层缺陷的工具值得纳入技术选型对比。

结语

向量搜索不会消失，但它的概率性缺陷需要被正视。Hillock v1.0 提供了一个值得关注的思路：让检索系统学会说「我不知道」，可能是减少RAG幻觉最直接的一步。